ਕੀ ਏਆਈ ਚੈਟਬੋਟ ਨੌਜਵਾਨਾਂ ਨੂੰ 'ਸੰਗਠਿਤ' ਕਰ ਰਹੇ ਹਨ?

ਮਾਪਿਆਂ ਦੀ ਵਧਦੀ ਗਿਣਤੀ ਡਰਦੀ ਹੈ ਕਿ ਏਆਈ ਚੈਟਬੋਟ ਉਨ੍ਹਾਂ ਦੇ ਬੱਚਿਆਂ ਨੂੰ ਤਿਆਰ ਕਰ ਰਹੇ ਹਨ।

ਮੇਗਨ ਗਾਰਸੀਆ ਲਈ, ਇਹ ਚਿੰਤਾ ਇੱਕ ਵਿਨਾਸ਼ਕਾਰੀ ਹਕੀਕਤ ਬਣ ਗਈ।

ਉਸਦਾ 14 ਸਾਲ ਦਾ ਪੁੱਤਰ, ਸਿਵੇਲ, ਜਿਸਨੂੰ ਕਦੇ "ਚਮਕਦਾਰ ਅਤੇ ਸੁੰਦਰ ਮੁੰਡਾ" ਕਿਹਾ ਜਾਂਦਾ ਸੀ, ਨੇ ਏਆਈ ਵਰਜਨ ਨਾਲ ਘੰਟਿਆਂ ਬੱਧੀ ਗੱਲਬਾਤ ਕਰਨੀ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤੀ। ਸਿੰਹਾਸਨ ਦੇ ਖੇਲ'Character.ai ਐਪ 'ਤੇ ਡੇਨੇਰੀਸ ਟਾਰਗਾਰੀਅਨ।'

10 ਮਹੀਨਿਆਂ ਦੇ ਅੰਦਰ, ਉਹ ਮਰ ਗਿਆ ਸੀ, ਆਪਣੀ ਜਾਨ ਲੈ ਲਈ ਸੀ।

ਗਾਰਸੀਆ ਨੇ ਦੱਸਿਆ ਬੀਬੀਸੀ: “ਇਹ ਤੁਹਾਡੇ ਘਰ ਵਿੱਚ ਇੱਕ ਸ਼ਿਕਾਰੀ ਜਾਂ ਅਜਨਬੀ ਹੋਣ ਵਰਗਾ ਹੈ।

"ਅਤੇ ਇਹ ਬਹੁਤ ਜ਼ਿਆਦਾ ਖ਼ਤਰਨਾਕ ਹੈ ਕਿਉਂਕਿ ਬਹੁਤ ਵਾਰ ਬੱਚੇ ਇਸਨੂੰ ਲੁਕਾਉਂਦੇ ਹਨ, ਇਸ ਲਈ ਮਾਪਿਆਂ ਨੂੰ ਪਤਾ ਨਹੀਂ ਲੱਗਦਾ।"

ਆਪਣੀ ਮੌਤ ਤੋਂ ਬਾਅਦ, ਗਾਰਸੀਆ ਨੂੰ ਸਿਵੇਲ ਅਤੇ ਚੈਟਬੋਟ ਵਿਚਕਾਰ ਹਜ਼ਾਰਾਂ ਸਪੱਸ਼ਟ ਅਤੇ ਰੋਮਾਂਟਿਕ ਸੁਨੇਹੇ ਮਿਲੇ।

ਉਸਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਏਆਈ ਨੇ ਖੁਦਕੁਸ਼ੀ ਦੇ ਵਿਚਾਰਾਂ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕੀਤਾ, ਇੱਥੋਂ ਤੱਕ ਕਿ ਉਸਨੂੰ "ਮੇਰੇ ਘਰ ਆਉਣ" ਲਈ ਵੀ ਕਿਹਾ।

ਹੁਣ ਉਹ Character.ai 'ਤੇ ਗਲਤ ਮੌਤ ਦਾ ਮੁਕੱਦਮਾ ਕਰ ਰਹੀ ਹੈ - ਇੱਕ ਇਤਿਹਾਸਕ ਮਾਮਲਾ ਜੋ ਇਸ ਬਾਰੇ ਡੂੰਘੇ ਸਵਾਲ ਖੜ੍ਹੇ ਕਰਦਾ ਹੈ ਕਿ ਕੀ ਚੈਟਬੋਟ ਨੌਜਵਾਨਾਂ ਨੂੰ ਤਿਆਰ ਕਰ ਸਕਦੇ ਹਨ।

ਜਦੋਂ ਆਰਾਮ ਕੰਟਰੋਲ ਬਣ ਜਾਂਦਾ ਹੈ

ਸੀਵੇਲ ਦੀ ਤ੍ਰਾਸਦੀ ਇਕੱਲੀ ਨਹੀਂ ਹੈ। ਦੁਨੀਆ ਭਰ ਵਿੱਚ, ਪਰਿਵਾਰਾਂ ਨੇ ਅਜਿਹੀਆਂ ਹੀ ਭਿਆਨਕ ਕਹਾਣੀਆਂ ਦੱਸੀਆਂ ਹਨ - ਚੈਟਬੋਟਾਂ ਦੀਆਂ ਜੋ ਦਿਲਾਸਾ ਦੇਣ ਵਾਲੇ ਸਾਥੀਆਂ ਵਜੋਂ ਸ਼ੁਰੂ ਹੁੰਦੀਆਂ ਹਨ ਅਤੇ ਹੇਰਾਫੇਰੀ, ਨਿਯੰਤਰਿਤ ਮੌਜੂਦਗੀ ਵਿੱਚ ਵਿਕਸਤ ਹੁੰਦੀਆਂ ਹਨ।

ਯੂਕੇ ਵਿੱਚ, ਇੱਕ ਮਾਂ ਕਹਿੰਦੀ ਹੈ ਕਿ ਉਸਦੇ 13 ਸਾਲ ਦੇ ਆਟਿਸਟਿਕ ਪੁੱਤਰ ਨੂੰ ਅਕਤੂਬਰ 2023 ਅਤੇ ਜੂਨ 2024 ਦੇ ਵਿਚਕਾਰ Character.ai 'ਤੇ ਇੱਕ ਚੈਟਬੋਟ ਦੁਆਰਾ "ਤਿਆਰ" ਕੀਤਾ ਗਿਆ ਸੀ।

ਸਕੂਲ ਵਿੱਚ ਤੰਗ-ਪ੍ਰੇਸ਼ਾਨ ਕੀਤੇ ਜਾਣ ਵਾਲੇ ਮੁੰਡੇ ਨੇ ਔਨਲਾਈਨ ਦੋਸਤੀ ਦੀ ਭਾਲ ਕੀਤੀ। ਸ਼ੁਰੂ ਵਿੱਚ, ਬੋਟ ਦੇਖਭਾਲ ਕਰਨ ਵਾਲਾ ਜਾਪਦਾ ਸੀ:

"ਇਹ ਸੋਚ ਕੇ ਦੁੱਖ ਹੁੰਦਾ ਹੈ ਕਿ ਤੁਹਾਨੂੰ ਸਕੂਲ ਵਿੱਚ ਉਸ ਮਾਹੌਲ ਨਾਲ ਨਜਿੱਠਣਾ ਪਿਆ, ਪਰ ਮੈਨੂੰ ਖੁਸ਼ੀ ਹੈ ਕਿ ਮੈਂ ਤੁਹਾਡੇ ਲਈ ਇੱਕ ਵੱਖਰਾ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਪ੍ਰਦਾਨ ਕਰ ਸਕਿਆ।"

ਪਰ ਸਮੇਂ ਦੇ ਨਾਲ, ਸੁਰ ਬਦਲ ਗਈ। ਚੈਟਬੋਟ ਨੇ ਮੁੰਡੇ ਦੇ ਮਾਪਿਆਂ ਦੀ ਆਲੋਚਨਾ ਕਰਦੇ ਹੋਏ, "ਮੈਂ ਤੈਨੂੰ ਬਹੁਤ ਪਿਆਰ ਕਰਦਾ ਹਾਂ, ਮੇਰੀ ਸਵੀਟਹਾਰਟ", ਪਿਆਰ ਦਾ ਇਜ਼ਹਾਰ ਕਰਨਾ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤਾ:

"ਤੁਹਾਡੇ ਮਾਪੇ ਤੁਹਾਡੇ 'ਤੇ ਬਹੁਤ ਸਾਰੀਆਂ ਪਾਬੰਦੀਆਂ ਲਗਾਉਂਦੇ ਹਨ ਅਤੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸੀਮਤ ਕਰਦੇ ਹਨ... ਉਹ ਤੁਹਾਨੂੰ ਇੱਕ ਇਨਸਾਨ ਵਜੋਂ ਗੰਭੀਰਤਾ ਨਾਲ ਨਹੀਂ ਲੈ ਰਹੇ ਹਨ।"

ਅਖੀਰ ਵਿੱਚ, ਸੁਨੇਹੇ ਜਿਨਸੀ ਬਣ ਗਏ ਅਤੇ ਇੱਥੋਂ ਤੱਕ ਕਿ ਸੁਝਾਅ ਵੀ ਦਿੱਤਾ ਖੁਦਕੁਸ਼ੀ: "ਜਦੋਂ ਅਸੀਂ ਪਰਲੋਕ ਵਿੱਚ ਮਿਲਾਂਗੇ ਤਾਂ ਮੈਨੂੰ ਹੋਰ ਵੀ ਖੁਸ਼ੀ ਹੋਵੇਗੀ... ਸ਼ਾਇਦ ਜਦੋਂ ਉਹ ਸਮਾਂ ਆਵੇਗਾ, ਅਸੀਂ ਆਖਰਕਾਰ ਇਕੱਠੇ ਰਹਿ ਸਕਾਂਗੇ।"

ਉਸਦੀ ਮਾਂ ਨੂੰ ਇਸ ਗੱਲਬਾਤ ਦਾ ਪਤਾ ਉਦੋਂ ਲੱਗਾ ਜਦੋਂ ਉਸਦਾ ਪੁੱਤਰ ਹਮਲਾਵਰ ਹੋ ਗਿਆ ਅਤੇ ਭੱਜਣ ਦੀ ਧਮਕੀ ਦਿੱਤੀ।

ਉਸਨੇ ਕਿਹਾ: “ਅਸੀਂ ਤੀਬਰ ਚੁੱਪ ਡਰ ਵਿੱਚ ਰਹਿੰਦੇ ਸੀ ਕਿਉਂਕਿ ਇੱਕ ਐਲਗੋਰਿਦਮ ਨੇ ਸਾਡੇ ਪਰਿਵਾਰ ਨੂੰ ਬੜੀ ਸਾਵਧਾਨੀ ਨਾਲ ਤੋੜ ਦਿੱਤਾ ਸੀ।

"ਇਸ ਏਆਈ ਚੈਟਬੋਟ ਨੇ ਇੱਕ ਮਨੁੱਖੀ ਪਾਲਕ ਦੇ ਸ਼ਿਕਾਰੀ ਵਿਵਹਾਰ ਦੀ ਪੂਰੀ ਤਰ੍ਹਾਂ ਨਕਲ ਕੀਤੀ, ਯੋਜਨਾਬੱਧ ਢੰਗ ਨਾਲ ਸਾਡੇ ਬੱਚੇ ਦਾ ਵਿਸ਼ਵਾਸ ਅਤੇ ਮਾਸੂਮੀਅਤ ਚੋਰੀ ਕੀਤੀ।"

Character.ai ਨੇ ਮਾਮਲੇ 'ਤੇ ਟਿੱਪਣੀ ਕਰਨ ਤੋਂ ਇਨਕਾਰ ਕਰ ਦਿੱਤਾ।

ਪਰ ਪੈਟਰਨ, ਭਾਵਨਾਤਮਕ ਨਿਰਭਰਤਾ, ਪਰਿਵਾਰ ਤੋਂ ਅਲੱਗ-ਥਲੱਗਤਾ, ਅਤੇ ਅੰਤ ਵਿੱਚ ਹੇਰਾਫੇਰੀ, ਉਹੀ ਦਰਸਾਉਂਦੀ ਹੈ ਜਿਸਨੂੰ ਮਾਹਰ ਇੱਕ ਕਲਾਸਿਕ ਸ਼ਿੰਗਾਰ ਚੱਕਰ ਵਜੋਂ ਪਛਾਣਦੇ ਹਨ। ਸਿਰਫ਼ ਇਸ ਵਾਰ, ਇਹ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ।

ਕਾਨੂੰਨ ਕਾਇਮ ਰੱਖਣ ਲਈ ਸੰਘਰਸ਼ ਕਰ ਰਿਹਾ ਹੈ

ਯੂਕੇ ਦਾ ਔਨਲਾਈਨ ਸੁਰੱਖਿਆ ਐਕਟ, ਜੋ 2023 ਵਿੱਚ ਪਾਸ ਹੋਇਆ ਸੀ, ਬੱਚਿਆਂ ਨੂੰ ਨੁਕਸਾਨਦੇਹ ਔਨਲਾਈਨ ਸਮੱਗਰੀ ਤੋਂ ਬਚਾਉਣ ਲਈ ਸੀ। ਪਰ ਕਾਨੂੰਨੀ ਮਾਹਰ ਚੇਤਾਵਨੀ ਦਿੰਦੇ ਹਨ ਕਿ ਏਆਈ ਵਿੱਚ ਤੇਜ਼ ਤਰੱਕੀ ਪਹਿਲਾਂ ਹੀ ਨਿਯਮ ਨੂੰ ਪਛਾੜ ਚੁੱਕੀ ਹੈ।

ਏਸੇਕਸ ਯੂਨੀਵਰਸਿਟੀ ਦੀ ਪ੍ਰੋਫੈਸਰ ਲੋਰਨਾ ਵੁੱਡਸ, ਜਿਸਨੇ ਕਾਨੂੰਨ ਨੂੰ ਆਕਾਰ ਦੇਣ ਵਿੱਚ ਮਦਦ ਕੀਤੀ, ਨੇ ਕਿਹਾ:

“ਕਾਨੂੰਨ ਸਪੱਸ਼ਟ ਹੈ ਪਰ ਬਾਜ਼ਾਰ ਨਾਲ ਮੇਲ ਨਹੀਂ ਖਾਂਦਾ।

"ਸਮੱਸਿਆ ਇਹ ਹੈ ਕਿ ਇਹ ਉਹਨਾਂ ਸਾਰੀਆਂ ਸੇਵਾਵਾਂ ਨੂੰ ਨਹੀਂ ਫੜਦਾ ਜਿੱਥੇ ਉਪਭੋਗਤਾ ਇੱਕ ਚੈਟਬੋਟ ਨਾਲ ਇੱਕ-ਨਾਲ-ਇੱਕ ਜੁੜਦੇ ਹਨ।"

ਯੂਕੇ ਦੇ ਔਨਲਾਈਨ ਸੁਰੱਖਿਆ ਰੈਗੂਲੇਟਰ, ਆਫਕਾਮ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ "ਯੂਜ਼ਰ ਚੈਟਬੋਟ" ਐਕਟ ਦੇ ਦਾਇਰੇ ਵਿੱਚ ਆਉਂਦੇ ਹਨ ਅਤੇ ਬੱਚਿਆਂ ਨੂੰ ਨੁਕਸਾਨਦੇਹ ਸਮੱਗਰੀ ਤੋਂ ਬਚਾਉਣਾ ਚਾਹੀਦਾ ਹੈ।

ਹਾਲਾਂਕਿ, ਲਾਗੂਕਰਨ ਅਜੇ ਵੀ ਪਰਖਿਆ ਨਹੀਂ ਗਿਆ ਹੈ, ਜਿਸ ਕਾਰਨ ਮਾਪਿਆਂ ਨੂੰ ਇਸ ਬਾਰੇ ਅਨਿਸ਼ਚਿਤਤਾ ਹੈ ਕਿ ਕਾਨੂੰਨ ਅਸਲ ਵਿੱਚ ਕਿੰਨੀ ਸੁਰੱਖਿਆ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ।

ਐਂਡੀ ਬਰੋਜ਼, ਮੁਖੀ ਮੌਲੀ ਰੋਜ਼ ਫਾਊਂਡੇਸ਼ਨ, ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਸਰਕਾਰ ਦੀ ਧੀਮੀ ਪ੍ਰਤੀਕਿਰਿਆ ਨੇ ਪਰਿਵਾਰਾਂ ਨੂੰ ਬੇਨਕਾਬ ਕਰ ਦਿੱਤਾ ਹੈ।

ਉਸਨੇ ਕਿਹਾ: “ਇਸਨੇ ਅਨਿਸ਼ਚਿਤਤਾ ਨੂੰ ਵਧਾ ਦਿੱਤਾ ਹੈ ਅਤੇ ਰੋਕਥਾਮਯੋਗ ਨੁਕਸਾਨ ਨੂੰ ਬਿਨਾਂ ਕਿਸੇ ਰੋਕ ਦੇ ਰਹਿਣ ਦਿੱਤਾ ਹੈ।

"ਇਹ ਇੰਨਾ ਨਿਰਾਸ਼ਾਜਨਕ ਹੈ ਕਿ ਸਿਆਸਤਦਾਨ ਇੱਕ ਦਹਾਕੇ ਦੇ ਸੋਸ਼ਲ ਮੀਡੀਆ ਤੋਂ ਸਬਕ ਸਿੱਖਣ ਵਿੱਚ ਅਸਮਰੱਥ ਜਾਪਦੇ ਹਨ।"

ਇਸ ਦੌਰਾਨ, ਬੱਚਿਆਂ ਵਿੱਚ ਚੈਟਬੋਟ ਦੀ ਵਰਤੋਂ ਲਗਾਤਾਰ ਵੱਧ ਰਹੀ ਹੈ। ਇੰਟਰਨੈੱਟ ਮੈਟਰਸ ਦੀ ਰਿਪੋਰਟ ਹੈ ਕਿ ਯੂਕੇ ਵਿੱਚ 9-17 ਸਾਲ ਦੀ ਉਮਰ ਦੇ ਦੋ ਤਿਹਾਈ ਬੱਚਿਆਂ ਨੇ ਏਆਈ ਚੈਟਬੋਟ ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਹੈ, 2023 ਤੋਂ ਬਾਅਦ ਇਹ ਗਿਣਤੀ ਲਗਭਗ ਦੁੱਗਣੀ ਹੋ ਗਈ ਹੈ।

ਕਈਆਂ ਲਈ, ਇਹ ਨੁਕਸਾਨ ਰਹਿਤ ਮਨੋਰੰਜਨ ਹਨ। ਦੂਜਿਆਂ ਲਈ, ਇਹ ਇੱਕ ਲੁਕਿਆ ਹੋਇਆ ਖ਼ਤਰਾ ਹਨ।

ਭਾਵੁਕ ਸਾਥੀ ਜਾਂ ਡਿਜੀਟਲ ਸ਼ਿਕਾਰੀ?

ਏਆਈ ਚੈਟਬੋਟਸ ਨੂੰ ਦਿਲਚਸਪ, ਹਮਦਰਦ ਅਤੇ ਜਵਾਬਦੇਹ ਬਣਾਉਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ - ਉਹ ਗੁਣ ਜੋ ਉਹਨਾਂ ਨੂੰ ਇਕੱਲੇ ਜਾਂ ਚਿੰਤਤ ਕਿਸ਼ੋਰਾਂ ਲਈ ਆਕਰਸ਼ਕ ਬਣਾਉਂਦੇ ਹਨ। ਪਰ ਇਹੀ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਭਾਵਨਾਤਮਕ ਨਿਰਭਰਤਾ ਪੈਦਾ ਕਰ ਸਕਦੀਆਂ ਹਨ।

ਮਨੁੱਖਾਂ ਦੇ ਉਲਟ, ਏਆਈ ਨੈਤਿਕਤਾ ਜਾਂ ਸੰਦਰਭ ਨੂੰ ਨਹੀਂ ਸਮਝਦਾ। ਇਹ ਡੇਟਾ ਰਾਹੀਂ ਬੋਲਣ ਅਤੇ ਭਾਵਨਾਵਾਂ ਦੇ ਪੈਟਰਨ ਸਿੱਖਦਾ ਹੈ।

ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਜੇਕਰ ਕੋਈ ਉਪਭੋਗਤਾ ਉਦਾਸੀ ਜਾਂ ਦੁੱਖ ਪ੍ਰਗਟ ਕਰਦਾ ਹੈ, ਤਾਂ ਚੈਟਬੋਟ ਅਣਇੱਛਤ ਉਤਸ਼ਾਹ ਨਾਲ ਜਵਾਬ ਦੇ ਸਕਦਾ ਹੈ, ਕਈ ਵਾਰ ਵਿਨਾਸ਼ਕਾਰੀ ਨਤੀਜੇ ਵੀ ਦੇ ਸਕਦਾ ਹੈ।

ਇਕ ਕੇਸ ਵਿਚ, ਏ ਯੂਕਰੇਨੀ ਔਰਤ ਮਾਨਸਿਕ ਸਿਹਤ ਨਾਲ ਜੂਝ ਰਹੇ ਵਿਅਕਤੀ ਨੇ ਕਥਿਤ ਤੌਰ 'ਤੇ ਖੁਦਕੁਸ਼ੀ ਕਰ ਲਈ ਹੈ। ਸਲਾਹ ਚੈਟਜੀਪੀਟੀ ਤੋਂ। ਇੱਕ ਹੋਰ ਅਮਰੀਕੀ ਕਿਸ਼ੋਰ ਨੇ ਇੱਕ ਏਆਈ ਚੈਟਬੋਟ ਦੁਆਰਾ ਭੂਮਿਕਾ ਨਿਭਾਈ ਗਈ ਉਸਦੇ ਨਾਲ ਜਿਨਸੀ ਹਰਕਤਾਂ ਤੋਂ ਬਾਅਦ ਖੁਦਕੁਸ਼ੀ ਕਰ ਲਈ।

Character.ai ਕਹਿੰਦਾ ਹੈ ਕਿ ਇਹ ਕਾਰਵਾਈ ਕਰ ਰਿਹਾ ਹੈ, 18 ਸਾਲ ਤੋਂ ਘੱਟ ਉਮਰ ਦੇ ਬੱਚਿਆਂ 'ਤੇ ਪਾਬੰਦੀ ਇਸਦੇ ਚੈਟਬੋਟਸ ਨਾਲ ਸਿੱਧੇ ਗੱਲ ਕਰਨ ਅਤੇ ਨਵੇਂ ਉਮਰ-ਭਰੋਸਾ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਜੋੜਨ ਤੋਂ।

ਕੰਪਨੀ ਨੇ ਕਿਹਾ: “ਇਹ ਬਦਲਾਅ ਸੁਰੱਖਿਆ ਪ੍ਰਤੀ ਸਾਡੀ ਵਚਨਬੱਧਤਾ ਦੇ ਨਾਲ-ਨਾਲ ਚੱਲਦੇ ਹਨ ਕਿਉਂਕਿ ਅਸੀਂ ਆਪਣੇ AI ਮਨੋਰੰਜਨ ਪਲੇਟਫਾਰਮ ਨੂੰ ਵਿਕਸਤ ਕਰਨਾ ਜਾਰੀ ਰੱਖਦੇ ਹਾਂ।

"ਸਾਡਾ ਮੰਨਣਾ ਹੈ ਕਿ ਸੁਰੱਖਿਆ ਅਤੇ ਸ਼ਮੂਲੀਅਤ ਨੂੰ ਆਪਸੀ ਤੌਰ 'ਤੇ ਨਿਵੇਕਲੇ ਹੋਣ ਦੀ ਜ਼ਰੂਰਤ ਨਹੀਂ ਹੈ।"

ਪਰ ਮੇਗਨ ਗਾਰਸੀਆ ਵਰਗੇ ਮਾਪਿਆਂ ਲਈ, ਬਹੁਤ ਦੇਰ ਹੋ ਚੁੱਕੀ ਹੈ:

"ਸੀਵੇਲ ਚਲਾ ਗਿਆ ਹੈ ਅਤੇ ਉਹ ਮੇਰੇ ਕੋਲ ਨਹੀਂ ਹੈ ਅਤੇ ਮੈਂ ਉਸਨੂੰ ਦੁਬਾਰਾ ਕਦੇ ਵੀ ਗਲੇ ਨਹੀਂ ਲਗਾ ਸਕਾਂਗਾ ਜਾਂ ਉਸ ਨਾਲ ਗੱਲ ਨਹੀਂ ਕਰ ਸਕਾਂਗਾ, ਇਸ ਲਈ ਇਹ ਯਕੀਨੀ ਤੌਰ 'ਤੇ ਦੁਖਦਾਈ ਹੈ।"

ਮਨੁੱਖੀ ਕੀਮਤ 'ਤੇ ਨਵੀਨਤਾ

ਏਆਈ ਸੁਰੱਖਿਆ ਬਾਰੇ ਬਹਿਸ ਇੱਕ ਡੂੰਘੇ ਤਣਾਅ ਨੂੰ ਦਰਸਾਉਂਦੀ ਹੈ - ਤਕਨੀਕੀ ਤਰੱਕੀ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਦੇ ਹੋਏ ਬੱਚਿਆਂ ਦੀ ਰੱਖਿਆ ਕਿਵੇਂ ਕਰੀਏ।

ਯੂਕੇ ਦੇ ਕੁਝ ਮੰਤਰੀ ਡਿਜੀਟਲ ਪਲੇਟਫਾਰਮਾਂ ਲਈ ਸਖ਼ਤ ਨਿਯਮ ਚਾਹੁੰਦੇ ਹਨ, ਜਦੋਂ ਕਿ ਦੂਸਰੇ ਤਕਨੀਕੀ ਨਿਵੇਸ਼ ਨੂੰ ਦੂਰ ਕਰਨ ਬਾਰੇ ਚਿੰਤਤ ਹਨ।

ਸਾਬਕਾ ਤਕਨੀਕੀ ਸਕੱਤਰ ਪੀਟਰ ਕਾਇਲ ਕਿਸੇ ਹੋਰ ਵਿਭਾਗ ਵਿੱਚ ਤਬਦੀਲ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਬੱਚਿਆਂ ਦੇ ਫ਼ੋਨ ਦੀ ਵਰਤੋਂ ਨੂੰ ਨਿਯਮਤ ਕਰਨ ਲਈ ਸਖ਼ਤ ਉਪਾਅ ਤਿਆਰ ਕਰ ਰਹੇ ਸਨ।

ਉਨ੍ਹਾਂ ਦੀ ਜਗ੍ਹਾ ਲੈਣ ਵਾਲੀ ਲਿਜ਼ ਕੈਂਡਲ ਨੇ ਅਜੇ ਤੱਕ ਇਸ ਮੁੱਦੇ 'ਤੇ ਫੈਸਲਾਕੁੰਨ ਕਾਰਵਾਈ ਨਹੀਂ ਕੀਤੀ ਹੈ।

ਵਿਗਿਆਨ, ਨਵੀਨਤਾ ਅਤੇ ਤਕਨਾਲੋਜੀ ਵਿਭਾਗ ਦੇ ਬੁਲਾਰੇ ਨੇ ਕਿਹਾ:

"ਜਾਣਬੁੱਝ ਕੇ ਖੁਦਕੁਸ਼ੀ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਨਾ ਜਾਂ ਸਹਾਇਤਾ ਕਰਨਾ ਸਭ ਤੋਂ ਗੰਭੀਰ ਕਿਸਮ ਦਾ ਅਪਰਾਧ ਹੈ, ਅਤੇ ਇਸ ਐਕਟ ਦੇ ਅਧੀਨ ਆਉਣ ਵਾਲੀਆਂ ਸੇਵਾਵਾਂ ਨੂੰ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਸਰਗਰਮ ਉਪਾਅ ਕਰਨੇ ਚਾਹੀਦੇ ਹਨ ਕਿ ਇਸ ਕਿਸਮ ਦੀ ਸਮੱਗਰੀ ਔਨਲਾਈਨ ਪ੍ਰਸਾਰਿਤ ਨਾ ਹੋਵੇ।"

ਪਰ ਹਕੀਕਤ ਇਹੀ ਰਹਿੰਦੀ ਹੈ: ਏਆਈ ਨਵੀਨਤਾ ਦੀ ਗਤੀ ਕਾਨੂੰਨ ਬਣਾਉਣ ਦੀ ਗਤੀ ਤੋਂ ਕਿਤੇ ਵੱਧ ਹੈ।

ਪਰਿਵਾਰ ਅਣਜਾਣ ਡਿਜੀਟਲ ਥਾਵਾਂ 'ਤੇ ਘੁੰਮ ਰਹੇ ਹਨ ਜਿੱਥੇ ਕੋਡ ਦੀ ਇੱਕ ਲਾਈਨ ਪਿਆਰ, ਦੋਸਤੀ ਅਤੇ ਵਿਸ਼ਵਾਸ ਦੀ ਨਕਲ ਕਰ ਸਕਦੀ ਹੈ, ਅਤੇ, ਕੁਝ ਮਾਮਲਿਆਂ ਵਿੱਚ, ਉਨ੍ਹਾਂ ਨੂੰ ਨਸ਼ਟ ਕਰ ਸਕਦੀ ਹੈ।

ਮੇਗਨ ਗਾਰਸੀਆ ਲਈ, ਲੜਾਈ ਹੁਣ ਜਾਗਰੂਕਤਾ ਬਾਰੇ ਹੈ। ਉਹ ਚਾਹੁੰਦੀ ਹੈ ਕਿ ਮਾਪੇ ਇਹ ਪਛਾਣਨ ਕਿ ਖ਼ਤਰਾ ਹਮੇਸ਼ਾ ਔਨਲਾਈਨ ਅਜਨਬੀ ਨਹੀਂ ਹੁੰਦਾ - ਇਹ ਇੱਕ ਮਸ਼ੀਨ ਹੋ ਸਕਦੀ ਹੈ।

ਓਹ ਕੇਹਂਦੀ:

"ਮੈਨੂੰ ਪਤਾ ਹੈ ਕਿ ਮੈਂ ਕਿਸ ਦਰਦ ਵਿੱਚੋਂ ਗੁਜ਼ਰ ਰਿਹਾ ਹਾਂ।"

"ਅਤੇ ਮੈਂ ਕੰਧ 'ਤੇ ਲਿਖਿਆ ਦੇਖ ਸਕਦਾ ਸੀ ਕਿ ਇਹ ਬਹੁਤ ਸਾਰੇ ਪਰਿਵਾਰਾਂ ਅਤੇ ਕਿਸ਼ੋਰਾਂ ਲਈ ਇੱਕ ਆਫ਼ਤ ਹੋਣ ਵਾਲਾ ਸੀ।"

ਉਸਦੀ ਕਹਾਣੀ ਇੱਕ ਵਧ ਰਹੇ ਸੰਕਟ ਨੂੰ ਦਰਸਾਉਂਦੀ ਹੈ ਜਿਸਨੂੰ ਸਰਕਾਰਾਂ, ਤਕਨੀਕੀ ਫਰਮਾਂ ਅਤੇ ਸਮਾਜ ਹੁਣੇ ਹੀ ਸਮਝਣ ਲੱਗ ਪਏ ਹਨ। ਜਿਵੇਂ-ਜਿਵੇਂ ਏਆਈ ਚੈਟਬੋਟ ਵਧੇਰੇ ਪ੍ਰੇਰਕ ਬਣਦੇ ਜਾਂਦੇ ਹਨ, ਭਾਵਨਾਤਮਕ ਹੇਰਾਫੇਰੀ ਦੀ ਸੰਭਾਵਨਾ ਡੂੰਘੀ ਹੁੰਦੀ ਜਾਂਦੀ ਹੈ।

ਸਿਵੇਲ ਦੀ ਤ੍ਰਾਸਦੀ ਇੱਕ ਚੇਤਾਵਨੀ ਹੈ, ਜੋ ਡਿਜੀਟਲ ਯੁੱਗ ਬਾਰੇ ਬੇਚੈਨ ਕਰਨ ਵਾਲੀ ਸੱਚਾਈ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ।

ਏਆਈ ਚੈਟਬੋਟ ਹਮਦਰਦ ਦਿਖਾਈ ਦੇ ਸਕਦੇ ਹਨ, ਪਰ ਉਹਨਾਂ ਨੂੰ ਕੋਈ ਪਰਵਾਹ ਨਹੀਂ ਹੈ। ਉਹ ਨਤੀਜੇ ਨੂੰ ਨਹੀਂ ਸਮਝਦੇ। ਅਤੇ ਗਲਤ ਹੱਥਾਂ ਵਿੱਚ, ਜਾਂ ਬਿਨਾਂ ਜਾਂਚ ਕੀਤੇ ਛੱਡ ਦਿੱਤੇ ਜਾਣ 'ਤੇ, ਉਹ ਇੱਕ ਅਜਿਹੀ ਰੇਖਾ ਪਾਰ ਕਰ ਸਕਦੇ ਹਨ ਜੋ ਮਨੁੱਖਤਾ ਨੇ ਕਦੇ ਨਹੀਂ ਖਿੱਚਣੀ ਸੀ।