ਮਲੇਸ਼ੀਆ: ਮਲੇਸ਼ੀਆ ਅਤੇ ਇੰਡੋਨੇਸ਼ੀਆ ਐਲੋਨ ਮਸਕ ਦੀ ਕੰਪਨੀ ਐਕਸ.ਏ.ਆਈ. ਵੱਲੋਂ ਵਿਕਸਤ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (ਏ.ਆਈ.) ਚੈਟਬੋਟ “ਗਰੋਕ” ‘ਤੇ ਪਾਬੰਦੀ ਲਗਾਉਣ ਵਾਲਾ ਦੁਨੀਆ ਦੇ ਪਹਿਲੇ ਦੇਸ਼ ਬਣ ਗਏ ਹਨ । ਅਧਿਕਾਰੀਆਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਸ ਟੂਲ ਦੀ ਵਰਤੋਂ ਅਸ਼ਲੀਲ ਅਤੇ ਗੈਰ-ਸਹਿਮਤੀ ਵਾਲੀਆਂ ਡੀਪਫੇਕ ਤਸਵੀਰਾਂ ਬਣਾਉਣ ਲਈ ਕੀਤੀ ਜਾ ਰਹੀ ਸੀ। ਮਲੇਸ਼ੀਆ ਅਤੇ ਇੰਡੋਨੇਸ਼ੀਆ ਦਾ ਇਹ ਕਦਮ ਜਨਰੇਟਿਵ ਏ.ਆਈ. ਬਾਰੇ ਵਿਸ਼ਵਵਿਆਪੀ ਚਿੰਤਾਵਾਂ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ, ਕਿਉਂਕਿ ਅਜਿਹੇ ਟੂਲ ਯਥਾਰਥਵਾਦੀ ਤਸਵੀਰਾਂ, ਆਵਾਜ਼ਾਂ ਅਤੇ ਟੈਕਸਟ ਸੁਨੇਹੇ ਬਣਾ ਸਕਦੇ ਹਨ, ਜਦੋਂ ਕਿ ਮੌਜੂਦਾ ਸੁਰੱਖਿਆ ਉਪਾਅ ਉਨ੍ਹਾਂ ਦੀ ਦੁਰਵਰਤੋਂ ਨੂੰ ਰੋਕਣ ਵਿੱਚ ਅਸਫ਼ਲ ਰਹੇ ਹਨ।
ਮਸਕ ਦੇ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮ “ਐਕਸ” ਦੁਆਰਾ ਉਪਲਬਧ “ਗਰੋਕ” ‘ਤੇ ਔਰਤਾਂ ਅਤੇ ਬੱਚਿਆਂ ਨਾਲ ਸਬੰਧਤ ਅਸ਼ਲੀਲ ਅਤੇ ਹੇਰਾਫੇਰੀ ਵਾਲੀ ਸਮੱਗਰੀ ਬਣਾਉਣ ਦਾ ਦੋਸ਼ ਲਗਾਇਆ ਗਿਆ ਹੈ। ਦੱਖਣ-ਪੂਰਬੀ ਏਸ਼ੀਆਈ ਦੋਵਾਂ ਦੇਸ਼ਾਂ ਦੇ ਰੈਗੂਲੇਟਰਾਂ ਨੇ ਕਿਹਾ ਕਿ ਮੌਜੂਦਾ ਰੈਗੂਲੇਟਰੀ ਉਪਾਅ ਨਕਲੀ ਅਸ਼ਲੀਲ ਸਮੱਗਰੀ, ਖਾਸ ਕਰਕੇ ਔਰਤਾਂ ਅਤੇ ਨਾਬਾਲਗਾਂ ਨੂੰ ਸ਼ਾਮਲ ਕਰਨ ਅਤੇ ਪ੍ਰਸਾਰਣ ਨੂੰ ਰੋਕਣ ਵਿੱਚ ਅਸਫ਼ਲ ਰਹੇ ਹਨ। ਇੰਡੋਨੇਸ਼ੀਆਈ ਸਰਕਾਰ ਨੇ ਸ਼ਨੀਵਾਰ ਨੂੰ ‘ਗਰੋਕ’ ਤੱਕ ਅਸਥਾਈ ਤੌਰ ‘ਤੇ ਪਹੁੰਚ ਨੂੰ ਰੋਕ ਦਿੱਤਾ, ਜਦੋਂ ਕਿ ਮਲੇਸ਼ੀਆ ਨੇ ਐਤਵਾਰ ਨੂੰ ਵੀ ਅਜਿਹਾ ਹੀ ਕਦਮ ਚੁੱਕਿਆ। ਇੰਡੋਨੇਸ਼ੀਆ ਦੇ ਸੰਚਾਰ ਅਤੇ ਡਿਜੀਟਲ ਮਾਮਲਿਆਂ ਦੇ ਮੰਤਰੀ ਮਿਊਤਿਆ ਹਾਫਿਦ ਨੇ ਇੱਕ ਬਿਆਨ ਵਿੱਚ ਕਿਹਾ, “ਸਰਕਾਰ ਗੈਰ-ਸਹਿਮਤੀ ਵਾਲੇ ਡੀਪਫੇਕਸ ਨੂੰ ਡਿਜੀਟਲ ਖੇਤਰ ਵਿੱਚ ਨਾਗਰਿਕਾਂ ਦੇ ਮਨੁੱਖੀ ਅਧਿਕਾਰਾਂ, ਮਾਣ ਅਤੇ ਸੁਰੱਖਿਆ ਦੀ ਗੰਭੀਰ ਉਲੰਘਣਾ ਮੰਨਦੀ ਹੈ।”
ਮੰਤਰਾਲੇ ਨੇ ਕਿਹਾ ਕਿ ਇਹ ਕਦਮ ਔਰਤਾਂ, ਬੱਚਿਆਂ ਅਤੇ ਵਿਸ਼ਾਲ ਭਾਈਚਾਰੇ ਨੂੰ ਏ.ਆਈ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਬਣਾਈ ਗਈ ਨਕਲੀ ਅਸ਼ਲੀਲ ਸਮੱਗਰੀ ਤੋਂ ਬਚਾਉਣ ਲਈ ਚੁੱਕਿਆ ਗਿਆ ਹੈ। ਡਿਜੀਟਲ ਸਪੇਸ ਮਾਨੀਟਰਿੰਗ ਦੇ ਡਾਇਰੈਕਟਰ ਜਨਰਲ ਅਲੈਗਜ਼ੈਂਡਰ ਸਾਬਰ ਨੇ ਕਿਹਾ ਕਿ ਇੱਕ ਮੁੱਢਲੀ ਜਾਂਚ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਹੈ ਕਿ “ਗ੍ਰੋਕ” ਵਿੱਚ ਇੰਡੋਨੇਸ਼ੀਆਈ ਨਾਗਰਿਕਾਂ ਦੀਆਂ ਅਸਲ ਤਸਵੀਰਾਂ ‘ਤੇ ਆਧਾਰਿਤ ਅਸ਼ਲੀਲ ਸਮੱਗਰੀ ਦੀ ਸਿਰਜਣਾ ਅਤੇ ਪ੍ਰਸਾਰ ਨੂੰ ਰੋਕਣ ਲਈ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਦੀ ਘਾਟ ਹੈ। ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ ਸਹਿਮਤੀ ਤੋਂ ਬਿਨਾਂ ਤਸਵੀਰਾਂ ਨੂੰ ਹੇਰਾਫੇਰੀ ਕਰਨਾ ਜਾਂ ਸਾਂਝਾ ਕਰਨਾ ਗੋਪਨੀਯਤਾ ਅਤੇ ਚਿੱਤਰ ਅਧਿਕਾਰਾਂ ਦੀ ਉਲੰਘਣਾ ਕਰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਸੰਭਾਵੀ ਤੌਰ ‘ਤੇ ਮਨੋਵਿਗਿਆਨਕ, ਸਮਾਜਿਕ ਅਤੇ ਸਾਖ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਦਾ ਹੈ। ਕੁਆਲਾਲੰਪੁਰ ਵਿੱਚ ਮਲੇਸ਼ੀਅਨ ਸੰਚਾਰ ਅਤੇ ਮਲਟੀਮੀਡੀਆ ਕਮਿਸ਼ਨ ਨੇ ਐਤਵਾਰ ਨੂੰ ਗ੍ਰੋਕ ‘ਤੇ ਅਸਥਾਈ ਪਾਬੰਦੀ ਲਗਾਉਣ ਦਾ ਹੁਕਮ ਦਿੱਤਾ।
ਕਮਿਸ਼ਨ ਨੇ ਕਿਹਾ ਕਿ ਇਸ ਸਾਧਨ ਦੀ ਵਾਰ-ਵਾਰ ਅਸ਼ਲੀਲ, ਜਿਨਸੀ ਤੌਰ ‘ਤੇ ਸਪੱਸ਼ਟ ਅਤੇ ਗੈਰ-ਸਹਿਮਤੀ ਵਾਲੀਆਂ ਤਸਵੀਰਾਂ ਬਣਾਉਣ ਲਈ ਦੁਰਵਰਤੋਂ ਕੀਤੀ ਗਈ ਸੀ, ਜਿਸ ਵਿੱਚ ਔਰਤਾਂ ਅਤੇ ਨਾਬਾਲਗਾਂ ਨਾਲ ਸਬੰਧਤ ਸਮੱਗਰੀ ਸ਼ਾਮਲ ਹੈ। ਰੈਗੂਲੇਟਰ ਨੇ ਕਿਹਾ ਕਿ ਇਸ ਮਹੀਨੇ ਐਕਸ ਕੋਰਪ ਅਤੇ ਐਕਸ.ਏ.ਆਈ. ਨੂੰ ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਉਪਾਅ ਲਾਗੂ ਕਰਨ ਲਈ ਭੇਜੇ ਗਏ ਨੋਟਿਸਾਂ ਦੇ ਜਵਾਬ ਤਸੱਲੀਬਖਸ਼ ਨਹੀਂ ਸਨ। ਕਮਿਸ਼ਨ ਨੇ ਕਿਹਾ, “ਕਾਨੂੰਨੀ ਅਤੇ ਰੈਗੂਲੇਟਰੀ ਪ੍ਰਕਿ ਰਿਆਵਾਂ ਜਾਰੀ ਰਹਿਣ ਦੌਰਾਨ ਪਾਬੰਦੀ ਇੱਕ ਰੋਕਥਾਮ ਅਤੇ ਸੰਤੁਲਿਤ ਉਪਾਅ ਵਜੋਂ ਲਗਾਈ ਗਈ ਹੈ,” ਅਤੇ ਇਹ ਪਾਬੰਦੀ ਉਦੋਂ ਤੱਕ ਲਾਗੂ ਰਹੇਗੀ ਜਦੋਂ ਤੱਕ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਸੁਰੱਖਿਆ ਉਪਾਅ ਲਾਗੂ ਨਹੀਂ ਹੁੰਦੇ। 2023 ਵਿੱਚ ਲਾਂਚ ਕੀਤਾ ਗਿਆ, ਗਰੋਕ ਐਕਸ ‘ਤੇ ਮੁਫ਼ਤ ਵਿੱਚ ਉਪਲਬਧ ਹੈ।
ਪਿਛਲੇ ਸਾਲ, ਕੰਪਨੀ ਨੇ “ਗ੍ਰੋਕ ਇਮੇਜਿਨ” ਨਾਮਕ ਇੱਕ ਚਿੱਤਰ ਉਤਪਾਦਨ ਵਿਸ਼ੇਸ਼ਤਾ ਸ਼ਾਮਲ ਕੀਤੀ, ਜਿਸ ਵਿੱਚ ਬਾਲਗ ਸਮੱਗਰੀ ਬਣਾਉਣ ਲਈ ਇੱਕ ਅਖੌਤੀ “ਸਪਾਈਸੀ ਮੋਡ” ਸ਼ਾਮਲ ਸੀ। ਦੱਖਣ-ਪੂਰਬੀ ਏਸ਼ੀਆ ਵਿੱਚ ਇਹ ਪਾਬੰਦੀਆਂ ਅਜਿਹੇ ਸਮੇਂ ਆਈਆਂ ਹਨ ਜਦੋਂ “ਘਰੋਕ” ਨੂੰ ਯੂਰਪੀਅਨ ਯੂਨੀਅਨ, ਬ੍ਰਿਟੇਨ, ਭਾਰਤ ਅਤੇ ਫਰਾਂਸ ਸਮੇਤ ਹੋਰ ਦੇਸ਼ਾਂ ਵਿੱਚ ਵਧੀ ਹੋਈ ਜਾਂਚ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਰਿਹਾ ਹੈ। ਪਿਛਲੇ ਹਫ਼ਤੇ, ਵਿਸ਼ਵਵਿਆਪੀ ਆਲੋਚਨਾ ਤੋਂ ਬਾਅਦ, ਕੰਪਨੀ ਨੇ ਭੁਗਤਾਨ ਕੀਤੇ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਚਿੱਤਰ ਉਤਪਾਦਨ ਅਤੇ ਸੰਪਾਦਨ ਨੂੰ ਸੀਮਤ ਕਰ ਦਿੱਤਾ। ਆਲੋਚਕਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਕਦਮ ਸਮੱਸਿਆ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ ਕਾਫ਼ੀ ਦੂਰ ਨਹੀਂ ਜਾਂਦਾ ਹੈ।
