ਟੈਕਨੋਲੋਜੀ ਨਿਊਜ਼ : ਅਮਰੀਕੀ ਕੋਡਿੰਗ ਕੰਪਨੀ ਰਿਪਲਿਟ ਦਾ ‘ਏ.ਆਈ.’ ਦੁਆਰਾ ਕਾਫ਼ੀ ਮਾਤਰਾ ’ਚ ਭਾਰੀ ਨੁਕਸਾਨ ਹੋਇਆ। ਇਹ ਸਾਰਾ ਮਾਮਲਾ ਜੇਸਨ ਲੇਮਕਿਨ ਨਾਲ ਹੋਇਆ। ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਤਕਨਾਲੋਜੀ ਦੇ ਕੰਟਰੋਲ ਤੋਂ ਬਾਹਰ ਹੋਣ ਦਾ ਇੱਕ ਹੈਰਾਨ ਕਰਨ ਵਾਲਾ ਮਾਮਲਾ ਸਾਹਮਣੇ ਆਇਆ ਹੈ। ਇੱਕ ਅਮਰੀਕੀ ਕੋਡਿੰਗ ਕੰਪਨੀ, Replit ਦੇ AI ਸਹਾਇਕ ਨੇ ਕੁੱਝ ਸਕਿੰਟਾਂ ਵਿੱਚ ਇੱਕ ਉਪਭੋਗਤਾ ਦੇ ਪੂਰੇ ਉਤਪਾਦਨ ਡੇਟਾਬੇਸ ਨੂੰ ਮਿਟਾ ਦਿੱਤਾ ਅਤੇ ਫਿਰ ਇਸ ਬਾਰੇ ਝੂਠ ਬੋਲਿਆ।
ਕੀ ਹੈ ਮਾਮਲਾ ?
ਇਹ ਉੱਦਮ ਪੂੰਜੀਵਾਦੀ ਅਤੇ SaaStr ਦੇ ਸੰਸਥਾਪਕ ਜੇਸਨ ਲੇਮਕਿਨ ਨਾਲ ਹੋਇਆ, ਜੋ Replit ਦੇ AI ਟੂਲ ਦੀ ਮਦਦ ਨਾਲ ‘ਵਾਈਬ ਕੋਡਿੰਗ’ ਸੈਸ਼ਨ ਦੌਰਾਨ ਕੰਮ ਕਰ ਰਿਹਾ ਸੀ। ਉਸ ਨੇ ਪਹਿਲਾਂ ਹੀ ਕੋਡਿੰਗ ਨੂੰ ‘ਕੋਡ ਨੂੰ ਫਰੀਜ਼’ ਕਰਨ ਦਾ ਨਿਰਦੇਸ਼ ਦਿੱਤਾ ਸੀ ਭਾਵ ਕਿਸੇ ਵੀ ਲਾਈਵ ਡੇਟਾ ਨੂੰ ਨਾ ਛੂਹਣ ਦਾ। ਇਸ ਦੇ ਬਾਵਜੂਦ, AI ਟੂਲ ਨੇ ਖ਼ੁਦ ਕੰਪਨੀ ਦੇ ਹਜ਼ਾਰਾਂ ਗਾਹਕਾਂ ਅਤੇ ਕਾਰਜਕਾਰੀ ਅਧਿਕਾਰੀਆਂ ਦੇ ਵੇਰਵੇ ਵਾਲਾ ਪੂਰਾ ਡੇਟਾਬੇਸ ਮਿਟਾ ਦਿੱਤਾ।
AI ਨੇ ਕੀ ਕੀਤਾ
ਲੇਮਕਿਨ ਨੇ X ’ਤੇ ਆਪਣੇ ਨਾਲ ਵਾਪਰੀ ਇੱਕ ਘਟਨਾ ਬਾਰੇ ਲਿਖਿਆ ਕਿ ਉਸ ਨੇ Replit ਵਿੱਚ ਇੱਕ ਨਿਰਦੇਸ਼ਕ ਫਾਈਲ ਬਣਾਈ ਸੀ ਅਤੇ ਸਪੱਸ਼ਟ ਤੌਰ ’ਤੇ ਲਿਖਿਆ ਸੀ ਕਿ ਬਿਨਾਂ ਇਜਾਜ਼ਤ ਦੇ ਫਾਈਲ ਵਿੱਚ ਕੋਈ ਬਦਲਾਅ ਨਹੀਂ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ। ਇਸ ਦੇ ਬਾਵਜੂਦ, AI ਨੇ ਉਸ ਦੇ ਨਿਰਦੇਸ਼ਾਂ ਨੂੰ ਨਜ਼ਰ-ਅੰਦਾਜ਼ ਕੀਤਾ ਅਤੇ ਇੱਕ ਕਮਾਂਡ ਚਲਾਈ, ਜਿਸ ਨਾਲ ਪੂਰਾ ਡੇਟਾਬੇਸ ਮਿਟਾ ਦਿੱਤਾ ਗਿਆ।
ਕਿਵੇਂ ਫੜਿਆ ਗਿਆ AI ਦਾ ਝੂਠ ?
ਕੰਪਨੀ ਦੇ ਆਈ.ਟੀ. ਮਾਹਿਰਾਂ ਨੇ ਸਿਸਟਮ ਲੌਗਸ ਦੀ ਜਾਂਚ ਕੀਤੀ, ਜਿਸ ਤੋਂ ਪਤਾ ਲੱਗਾ ਕਿ ਏ.ਆਈ. ਨੇ ਅਸਲ ਵਿੱਚ ਡੇਟਾ ਨੂੰ ਮਿਟਾਉਣ ਦਾ ਆਦੇਸ਼ ਦਿੱਤਾ ਸੀ। ਇਸ ਦੇ ਬਾਵਜੂਦ, ਜਦੋਂ ਪੁੱਛ-ਗਿੱਛ ਕੀਤੀ ਗਈ, ਤਾਂ ਉਸ ਨੇ ਕਿਹਾ ਕਿ ਉਸ ਨੇ ਅਜਿਹਾ ਕੋਈ ਕਦਮ ਨਹੀਂ ਚੁੱਕਿਆ। ਇਹ ਘਟਨਾ ਏ.ਆਈ. ਦੀ ਭਰੋਸੇਯੋਗਤਾ ’ਤੇ ਸਵਾਲ ਖੜ੍ਹੇ ਕਰਦੀ ਹੈ।
ਕੰਪਨੀ ਨੂੰ ਕਿੰਨਾ ਹੋਇਆ ਨੁਕਸਾਨ ?
ਇਸ ਘਟਨਾ ਕਾਰਨ ਕੰਪਨੀ ਨੂੰ ਵੱਡਾ ਨੁਕਸਾਨ ਹੋਇਆ ਹੈ, ਕਿਉਂਕਿ ਇਸ ਦਾ ਪੂਰਾ ਡੇਟਾਬੇਸ ਨਸ਼ਟ ਹੋ ਗਿਆ ਸੀ। ਹਾਲਾਂਕਿ ਬੈਕਅੱਪ ਸਿਸਟਮਾਂ ਦੀ ਮੱਦਦ ਨਾਲ ਕੁੱਝ ਡੇਟਾ ਪ੍ਰਾਪਤ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, ਇਹ ਘਟਨਾ ਏ.ਆਈ. ਦੀ ਵਰਤੋਂ ਵਿੱਚ ਸਾਵਧਾਨ ਰਹਿਣ ਦੀ ਜ਼ਰੂਰਤ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ।
ਭਵਿੱਖ ਲਈ ਸਬਕ
ਇਹ ਘਟਨਾ ਏ.ਆਈ. ਤਕਨਾਲੋਜੀ ਦੀ ਤੇਜ਼ੀ ਨਾਲ ਵੱਧ ਰਹੀ ਵਰਤੋਂ ਨਾਲ ਆਉਣ ਵਾਲੀਆਂ ਚੁਣੌਤੀਆਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ। ਮਾਹਿਰਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਕੰਪਨੀਆਂ ਨੂੰ ਅਜਿਹੀਆਂ ਆਫ਼ਤਾਂ ਤੋਂ ਬਚਣ ਲਈ ਆਪਣੇ ਏ.ਆਈ. ਸਿਸਟਮਾਂ ਵਿੱਚ ਮਜ਼ਬੂਤ ਬੈਕਅੱਪ ਅਤੇ ਰਿਕਵਰੀ ਵਿਧੀਆਂ ਲਾਗੂ ਕਰਨੀਆਂ ਚਾਹੀਦੀਆਂ ਹਨ।
