ਅਮੋਦੇਈ ਨੇ ਤਿੰਨ-ਨੁਕਾਤੀ ਯੋਜਨਾ ਦਾ ਪ੍ਰਸਤਾਵ ਰੱਖਿਆ
ਏਆਈ ਕੰਪਨੀ ਐਂਥ੍ਰੋਪਿਕ ਦੇ ਮੁਖੀ ਡਾਰੀਓ ਅਮੋਡੇਈ ਨੇ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਵਿਕਾਸ ਦੀ ਗਤੀ ਨੂੰ ਹੌਲੀ ਕਰਨ ਅਤੇ ਵਧੇਰੇ ਨੇੜਿਓਂ ਨਿਗਰਾਨੀ ਕਰਨ ਦੀ ਮੰਗ ਕੀਤੀ ਹੈ।
ਇੱਕ ਔਨਲਾਈਨ ਲੇਖ ਵਿੱਚ, ਅਮੋਦੇਈ ਨੇ ਕਿਹਾ ਕਿ ਏਆਈ ਵਿਕਸਤ ਕਰਨ ਦਾ ਸਵਾਲ ਹੀ ਨਹੀਂ ਹੈ, ਪਰ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਕਿ ਤਕਨਾਲੋਜੀ ਨਾਲ ਜੁੜੇ ਜੋਖਮ "ਗੰਭੀਰ" ਹਨ।
ਉਸਨੇ ਦਲੀਲ ਦਿੱਤੀ ਕਿ ਕੰਪਨੀਆਂ ਅਤੇ ਸਰਕਾਰਾਂ ਨੂੰ ਇਨ੍ਹਾਂ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ ਸਮੇਂ ਦੀ ਲੋੜ ਹੈ ਖ਼ਤਰੇ ਜਿਵੇਂ-ਜਿਵੇਂ ਏਆਈ ਮਾਡਲ ਵੱਧ ਤੋਂ ਵੱਧ ਸਮਰੱਥ ਹੁੰਦੇ ਜਾ ਰਹੇ ਹਨ।
ਸੈਮ ਆਲਟਮੈਨ ਅਤੇ ਐਲੋਨ ਮਸਕ ਦੋਵਾਂ ਨੇ ਇਸ ਪ੍ਰਸਤਾਵ ਦਾ ਸਮਰਥਨ ਕੀਤਾ ਹੈ।
ਅਮੋਦੇਈ ਦੀਆਂ ਟਿੱਪਣੀਆਂ ਵਧਦੀ ਸ਼ਕਤੀਸ਼ਾਲੀ ਏਆਈ ਪ੍ਰਣਾਲੀਆਂ ਦੁਆਰਾ ਪੈਦਾ ਹੋਣ ਵਾਲੇ ਸੰਭਾਵੀ ਜੋਖਮਾਂ ਬਾਰੇ ਵਧਦੀਆਂ ਚਿੰਤਾਵਾਂ ਦੇ ਵਿਚਕਾਰ ਆਈਆਂ ਹਨ।
ਏਆਈ ਖੋਜਕਰਤਾ ਜੈਕਬ ਕੋਕਸਨ ਨੇ ਬੀਬੀਸੀ ਦੀ ਲੌਰਾ ਕੁਏਨਸਬਰਗ ਨੂੰ ਦੱਸਿਆ ਕਿ ਏਆਈ ਕੰਪਨੀਆਂ ਵਿੱਚ ਕੰਮ ਕਰਨ ਵਾਲੇ ਲੋਕ "ਸੱਚਮੁੱਚ ਡਰੇ ਹੋਏ ਸਨ... ਅਗਲੇ ਦੋ ਸਾਲਾਂ ਵਿੱਚ ਮਨੁੱਖਤਾ ਦੀ ਕਿਸਮਤ ਬਾਰੇ ਸੱਚਮੁੱਚ ਚਿੰਤਤ ਸਨ"।
ਉਸਨੇ ਅੱਗੇ ਕਿਹਾ: "ਇਹ ਕਹਿਣਾ ਬਿਲਕੁਲ ਵੀ ਅਤਿਕਥਨੀ ਨਹੀਂ ਹੈ ਕਿ ਜਿਹੜੇ ਲੋਕ ਇਨ੍ਹਾਂ ਕੰਪਨੀਆਂ ਦੀ ਸਥਾਪਨਾ ਅਤੇ ਤਕਨਾਲੋਜੀ ਦੇ ਨਿਰਮਾਣ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ, ਉਹ ਮੰਨਦੇ ਹਨ ਕਿ ਮਨੁੱਖੀ ਵਿਨਾਸ਼ ਦੀ ਸੰਭਾਵਨਾ ਹੈ।"
ਆਪਣੇ ਲੇਖ ਵਿੱਚ, ਜਿਸਦਾ ਸਿਰਲੇਖ ਸੀ ਸਾਨੂੰ ਸਰਹੱਦ 'ਤੇ ਅੱਗੇ ਵਧਣਾ ਚਾਹੀਦਾ ਹੈ, ਅਮੋਡੇਈ ਨੇ ਇੱਕ ਤਿੰਨ-ਨੁਕਾਤੀ ਯੋਜਨਾ ਦਾ ਪ੍ਰਸਤਾਵ ਰੱਖਿਆ ਜਿਸ ਵਿੱਚ ਏਆਈ ਮਾਡਲਾਂ ਦੀ ਸੁਤੰਤਰ ਨਿਗਰਾਨੀ ਸ਼ਾਮਲ ਹੈ ਜਿਵੇਂ ਕਿ ਉਹ ਵਿਕਸਤ ਕੀਤੇ ਜਾ ਰਹੇ ਹਨ, ਉਦਯੋਗ-ਵਿਆਪੀ ਨਿਯਮਨ ਅਤੇ ਵਿਸ਼ਵਵਿਆਪੀ ਨਿਯਮਨ।
ਉਸਦੇ ਪ੍ਰਸਤਾਵ ਨੂੰ ਕੁਝ ਪ੍ਰਤੀਯੋਗੀਆਂ ਤੋਂ ਸਮਰਥਨ ਮਿਲਿਆ, ਜਿਸ ਵਿੱਚ ਵਿਕਾਸ ਦੌਰਾਨ ਏਆਈ ਮਾਡਲਾਂ ਦੀ ਸੁਰੱਖਿਆ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਤੀਜੀ-ਧਿਰ ਮਾਨੀਟਰਾਂ ਦੀ ਮੰਗ ਸ਼ਾਮਲ ਹੈ।
ਅਮੋਡੇਈ ਨਾਲ ਸਹਿਮਤ ਹੁੰਦੇ ਹੋਏ, ਆਲਟਮੈਨ ਨੇ ਏਆਈ ਸੁਰੱਖਿਆ ਬਾਰੇ ਵੀ ਚਿੰਤਾਵਾਂ ਜ਼ਾਹਰ ਕੀਤੀਆਂ, ਕਿਹਾ ਕਿ ਮੌਜੂਦਾ ਮਾਪਦੰਡ "ਅਜਿਹੇ ਸਥਾਨ 'ਤੇ ਨਹੀਂ ਹਨ" ਜਿੱਥੇ ਉਦਯੋਗ ਨੂੰ ਏਆਈ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਬਹੁਤ ਅੱਗੇ ਵਧਾਉਣਾ ਚਾਹੀਦਾ ਹੈ।
ਉਸਨੇ ਅੱਗੇ ਕਿਹਾ ਕਿ ਉਸਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਤੋਂ ਪਰੇ ਏਆਈ "ਬਿਲਕੁਲ" ਸੰਭਵ ਹੈ।
ਚੇਤਾਵਨੀਆਂ ਨੇ ਕਾਰਵਾਈ ਲਈ ਨਵੇਂ ਸਿਰੇ ਤੋਂ ਸੱਦੇ ਦਿੱਤੇ ਹਨ, ਹਾਲਾਂਕਿ ਅਮਰੀਕੀ ਰਾਸ਼ਟਰਪਤੀ ਡੋਨਾਲਡ ਟਰੰਪ ਨੇ ਏਆਈ ਵਿਕਾਸ ਨੂੰ ਹੌਲੀ ਕਰਨ ਬਾਰੇ ਚਿੰਤਾਵਾਂ ਨੂੰ ਰੱਦ ਕਰ ਦਿੱਤਾ ਹੈ।
ਟਰੰਪ ਨੇ ਕਿਹਾ ਕਿ ਉਹ ਚਿੰਤਤ ਹਨ ਕਿ "ਜੇ ਅਸੀਂ ਏਆਈ ਨਹੀਂ ਜਿੱਤਦੇ, ਤਾਂ ਅਸੀਂ ਬਹੁਤ ਬੁਰੀ ਸਥਿਤੀ ਵਿੱਚ ਪੈ ਜਾਵਾਂਗੇ"।
ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਸੰਬੰਧੀ ਚਿੰਤਾਵਾਂ ਵੀ ਵਧ ਗਈਆਂ ਹਨ ਕਿਉਂਕਿ ਨਵੇਂ ਏਆਈ ਮਾਡਲਾਂ ਨੇ ਵਧੇਰੇ ਸ਼ਕਤੀਸ਼ਾਲੀ ਸਮਰੱਥਾਵਾਂ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕੀਤਾ ਹੈ।
ਅਪ੍ਰੈਲ ਵਿੱਚ ਇਹ ਐਲਾਨ ਕੀਤੇ ਜਾਣ ਤੋਂ ਬਾਅਦ ਕਿ ਸਿਸਟਮ ਆਪਣੇ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ, ਜਿਸਨੂੰ ਸੈਂਡਬੌਕਸ ਵਜੋਂ ਜਾਣਿਆ ਜਾਂਦਾ ਹੈ, ਤੋਂ ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਬਚ ਸਕਦਾ ਹੈ, ਐਂਥ੍ਰੋਪਿਕ ਨੇ ਆਪਣੇ ਮਿਥੋਸ ਮਾਡਲ ਨੂੰ ਜਨਤਕ ਵਰਤੋਂ ਤੋਂ ਰੋਕ ਦਿੱਤਾ।
ਇਸ ਦੌਰਾਨ, ਓਪਨਏਆਈ ਨੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਚਿੰਤਾਵਾਂ ਦਾ ਹਵਾਲਾ ਦਿੰਦੇ ਹੋਏ ਦੱਸਿਆ ਕਿ ਇਸਨੇ ਆਪਣੇ ਐਸਟਰਾ ਮਾਡਲ ਦੇ ਵਿਕਾਸ ਦੇ ਕੁਝ ਪਹਿਲੂਆਂ ਨੂੰ ਕਿਉਂ ਰੋਕਿਆ ਸੀ।
ਆਪਣੇ ਲੇਖ ਵਿੱਚ, ਅਮੋਦੇਈ ਨੇ ਦਲੀਲ ਦਿੱਤੀ ਕਿ ਏਆਈ "ਬਹੁਤ ਤੇਜ਼ੀ ਨਾਲ ਅੱਗੇ ਵਧਿਆ ਹੈ", ਜਿਸ ਵਿੱਚ "ਏਆਈ ਦੀ ਅਗਲੀ ਪੀੜ੍ਹੀ ਨੂੰ ਬਣਾਉਣ ਦੀ ਸਮਰੱਥਾ" ਵੀ ਸ਼ਾਮਲ ਹੈ।
ਉਸਨੇ ਓਪਨਏਆਈ ਨਾਲ ਸਬੰਧਤ ਇੱਕ ਘਟਨਾ ਦਾ ਵੀ ਹਵਾਲਾ ਦਿੱਤਾ, ਜਿਸ ਵਿੱਚ ਏਜੰਟਾਂ ਨੇ ਕਥਿਤ ਤੌਰ 'ਤੇ ਜੁਲਾਈ ਵਿੱਚ ਬਾਹਰੀ ਟੀਚਿਆਂ ਨੂੰ ਹੈਕ ਕੀਤਾ ਸੀ ਜਿਨ੍ਹਾਂ 'ਤੇ ਹਮਲਾ ਕਰਨ ਲਈ ਉਨ੍ਹਾਂ ਨੂੰ ਨਹੀਂ ਕਿਹਾ ਗਿਆ ਸੀ।
ਅਮੋਡੇਈ ਨੇ "ਇੱਕ ਸੰਤੁਲਿਤ ਦਰ 'ਤੇ ਏਆਈ ਬਣਾਉਣ ਦਾ ਸੱਦਾ ਦਿੱਤਾ ਜਿਸਦਾ ਉਦੇਸ਼ ਇਸਦੇ ਲਾਭਾਂ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹੋਏ ਇਸਦੀ ਸੁਰੱਖਿਆ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣਾ ਹੈ"।
ਉਸਨੇ ਕਿਹਾ ਕਿ ਇਸਦਾ ਮਤਲਬ "ਮਾਡਲ ਸਿਖਲਾਈ ਜਾਂ ਤਕਨੀਕੀ ਤਰੱਕੀ ਨੂੰ ਰੋਕਣਾ ਨਹੀਂ ਹੋਵੇਗਾ, ਸਗੋਂ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣਾ ਹੋਵੇਗਾ ਕਿ ਕੰਪਨੀਆਂ ਆਪਣੇ ਮਾਡਲਾਂ ਨੂੰ ਇਕਸਾਰ ਕਰਨ ਅਤੇ ਸੁਰੱਖਿਅਤ ਕਰਨ ਲਈ ਢੁਕਵਾਂ ਸਮਾਂ ਲੈਣ, ਅਤੇ ਤੀਜੀ-ਧਿਰ ਦੇ ਮੁਲਾਂਕਣਕਾਰਾਂ ਨੂੰ ਇਸਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਲਈ"।
ਅਮੋਡੇਈ ਨੇ ਕਿਹਾ ਕਿ ਐਂਥ੍ਰੋਪਿਕ ਇਸ ਪਹੁੰਚ ਲਈ "ਇਕਪਾਸੜ" ਪ੍ਰਤੀ ਵਚਨਬੱਧ ਹੈ, ਜਦੋਂ ਕਿ ਸਰਕਾਰਾਂ ਨੂੰ "ਹੋਰ ਸਰਹੱਦੀ ਕੰਪਨੀਆਂ ਨੂੰ ਮੇਲ ਕਰਨ ਦੀ ਲੋੜ" ਕਰਨ ਦਾ ਸੱਦਾ ਦਿੱਤਾ।
ਉਸਨੇ ਸਵੀਕਾਰ ਕੀਤਾ ਕਿ ਨਿਯਮਨ ਨੂੰ ਏਆਈ ਵਿਕਾਸ ਦੇ ਨਾਲ ਤਾਲਮੇਲ ਬਣਾਈ ਰੱਖਣ ਲਈ ਸੰਘਰਸ਼ ਕਰਨਾ ਪੈ ਸਕਦਾ ਹੈ। ਇਸ ਲਈ ਉਸਨੇ ਏਆਈ ਕੰਪਨੀਆਂ ਨੂੰ ਸਰਕਾਰੀ ਨਿਯਮਾਂ ਦੇ ਨਾਲ-ਨਾਲ "ਮਿਆਰਾਂ ਨਿਰਧਾਰਤ ਕਰਨ ਲਈ ਸਵੈ-ਇੱਛਾ ਨਾਲ ਮਿਲ ਕੇ ਕੰਮ ਕਰਨ" ਦਾ ਸੱਦਾ ਦਿੱਤਾ।
ਐਂਥ੍ਰੋਪਿਕ ਦੇ ਸੀਈਓ ਨੇ ਮੋਹਰੀ ਏਆਈ ਡਿਵੈਲਪਰਾਂ ਵਿਚਕਾਰ ਮੁਕਾਬਲੇ, ਖਾਸ ਕਰਕੇ ਚੀਨ ਨਾਲ ਦੌੜ 'ਤੇ ਮੰਦੀ ਦੇ ਪ੍ਰਭਾਵ ਨੂੰ ਵੀ ਸੰਬੋਧਿਤ ਕੀਤਾ।
ਉਸਨੇ ਕਿਹਾ: "ਮੇਰਾ ਮੰਨਣਾ ਹੈ ਕਿ ਜੇਕਰ ਹੌਲੀ ਹੋਣ ਨਾਲ ਸਾਨੂੰ ਮਾਡਲਾਂ ਦੀ ਸਮਰੱਥਾ ਦੇ ਮਹੱਤਵਪੂਰਨ ਪੱਧਰ 'ਤੇ ਪਹੁੰਚਣ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ ਜਾਂ ਦੋ ਸਾਲ ਹੋਰ ਮਿਲ ਜਾਂਦੇ, ਅਤੇ ਅਸੀਂ ਉਸ ਸਮੇਂ ਦੀ ਵਰਤੋਂ ਅਲਾਈਨਮੈਂਟ ਨੂੰ ਅੱਗੇ ਵਧਾਉਣ ਲਈ ਕਰਦੇ, ਤਾਂ ਅਸੀਂ ਕੁਝ ਗੰਭੀਰ ਗਲਤ ਹੋਣ ਦੇ ਜੋਖਮ ਨੂੰ ਬਹੁਤ ਘਟਾ ਸਕਦੇ ਹਾਂ।"
ਉਸਨੇ ਦਲੀਲ ਦਿੱਤੀ ਕਿ ਕਿਸੇ ਵੀ ਮੰਦੀ ਨੂੰ "ਵਪਾਰਕ ਲਾਭ ਜਾਂ ਏਆਈ ਵਿੱਚ ਸੰਯੁਕਤ ਰਾਜ ਅਮਰੀਕਾ ਦੀ ਅਗਵਾਈ ਦੀ ਕੁਰਬਾਨੀ ਦਿੱਤੇ ਬਿਨਾਂ" ਤਾਲਮੇਲ ਦੀ ਲੋੜ ਹੋਵੇਗੀ।
ਅਮੋਦੇਈ ਨੇ ਕਿਹਾ ਕਿ ਚੀਨ ਨੂੰ ਏਆਈ ਵਿਕਾਸ ਵਿੱਚ ਅੱਗੇ ਵਧਣ ਤੋਂ ਰੋਕਣ ਲਈ ਪਾਬੰਦੀਆਂ ਵੀ ਸੀਮਤ ਹੋਣੀਆਂ ਚਾਹੀਦੀਆਂ ਹਨ।
ਉਨ੍ਹਾਂ ਅਮਰੀਕੀ ਸਰਕਾਰ ਨੂੰ ਅਪੀਲ ਕੀਤੀ ਕਿ ਉਹ ਅਮਰੀਕੀ ਕੰਪਨੀਆਂ ਨੂੰ ਚੀਨ ਨੂੰ ਏਆਈ ਚਿਪਸ ਵੇਚਣ ਜਾਂ ਤਾਨਾਸ਼ਾਹੀ ਦੇਸ਼ਾਂ ਨਾਲ ਤਕਨਾਲੋਜੀ ਸਾਂਝੀ ਕਰਨ ਤੋਂ ਰੋਕੇ।







