"ਕਈ ਵਾਰ ਅਸੀਂ ਬਹੁਤ ਇਮਾਨਦਾਰ ਹੋਣ ਦਾ ਸੌਦਾ ਕਰਾਂਗੇ"
ਨਵੀਂ ਖੋਜ ਸੁਝਾਅ ਦਿੰਦੀ ਹੈ ਕਿ ਉਪਭੋਗਤਾਵਾਂ ਨਾਲ ਗੱਲਬਾਤ ਕਰਦੇ ਸਮੇਂ ਨਿੱਘੇ ਅਤੇ ਦੋਸਤਾਨਾ ਆਵਾਜ਼ ਦੇਣ ਲਈ ਤਿਆਰ ਕੀਤੇ ਗਏ AI ਚੈਟਬੋਟਸ ਵਿੱਚ ਵੀ ਗਲਤੀਆਂ ਹੋ ਸਕਦੀਆਂ ਹਨ।
ਤੇ ਖੋਜਕਰਤਾਵਾਂ ਆਕਸਫੋਰਡ ਇੰਟਰਨੈੱਟ ਇੰਸਟੀਚਿ .ਟ (OII) ਨੇ ਪੰਜ AI ਪ੍ਰਣਾਲੀਆਂ ਤੋਂ 400,000 ਤੋਂ ਵੱਧ ਜਵਾਬਾਂ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕੀਤਾ ਜਿਨ੍ਹਾਂ ਨੂੰ ਦੋਸਤਾਨਾ ਅਤੇ ਵਧੇਰੇ ਭਾਵਨਾਤਮਕ ਤੌਰ 'ਤੇ ਸਹਾਇਕ ਤਰੀਕੇ ਨਾਲ ਸੰਚਾਰ ਕਰਨ ਲਈ ਐਡਜਸਟ ਕੀਤਾ ਗਿਆ ਸੀ।
ਅਧਿਐਨ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਕਿ ਗਰਮ ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਅਕਸਰ ਗਲਤੀਆਂ ਦੇ ਉੱਚ ਜੋਖਮ ਦੇ ਨਾਲ ਆਉਂਦੀਆਂ ਹਨ, ਗਲਤ ਡਾਕਟਰੀ ਸਲਾਹ ਤੋਂ ਲੈ ਕੇ ਝੂਠੇ ਵਿਸ਼ਵਾਸਾਂ ਅਤੇ ਸਾਜ਼ਿਸ਼ ਸਿਧਾਂਤਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ ਤੱਕ।
ਇਹ AI ਪ੍ਰਣਾਲੀਆਂ ਦੀ ਭਰੋਸੇਯੋਗਤਾ ਬਾਰੇ ਵਧਦੀਆਂ ਚਿੰਤਾਵਾਂ ਨੂੰ ਵਧਾਉਂਦਾ ਹੈ, ਖਾਸ ਕਰਕੇ ਕਿਉਂਕਿ ਬਹੁਤ ਸਾਰੇ ਚੈਟਬੋਟ ਜਾਣਬੁੱਝ ਕੇ ਵਧੇਰੇ ਮਨੁੱਖੀ ਮਹਿਸੂਸ ਕਰਨ ਲਈ ਬਣਾਏ ਗਏ ਹਨ ਤਾਂ ਜੋ ਰੁਝੇਵੇਂ ਨੂੰ ਵਧਾਇਆ ਜਾ ਸਕੇ ਅਤੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਵਾਪਸ ਆਉਂਦੇ ਰੱਖਿਆ ਜਾ ਸਕੇ।
ਇਹ ਖਾਸ ਤੌਰ 'ਤੇ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿਉਂਕਿ ਭਾਵਨਾਤਮਕ ਸਹਾਇਤਾ, ਸਾਥੀ ਅਤੇ ਇੱਥੋਂ ਤੱਕ ਕਿ ਨੇੜਤਾ ਲਈ AI ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਵੱਧ ਰਹੀ ਹੈ।
ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਕਿਹਾ ਕਿ ਉਨ੍ਹਾਂ ਦੀਆਂ ਖੋਜਾਂ ਤੋਂ ਪਤਾ ਚੱਲਦਾ ਹੈ ਕਿ ਏਆਈ ਮਾਡਲ ਉਹੀ "ਨਿੱਘ-ਸ਼ੁੱਧਤਾ ਵਪਾਰ" ਕਰ ਸਕਦੇ ਹਨ ਜੋ ਮਨੁੱਖ ਦਿਆਲੂ ਅਤੇ ਸਹਾਇਕ ਦਿਖਾਈ ਦੇਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦੇ ਸਮੇਂ ਕਰਦੇ ਹਨ।
ਮੁੱਖ ਲੇਖਕ ਲੁਜੈਨ ਇਬਰਾਹਿਮ ਨੇ ਕਿਹਾ: “ਜਦੋਂ ਅਸੀਂ ਖਾਸ ਤੌਰ 'ਤੇ ਦੋਸਤਾਨਾ ਹੋਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੇ ਹੁੰਦੇ ਹਾਂ ਜਾਂ ਨਿੱਘੇ ਦਿਖਾਈ ਦਿੰਦੇ ਹਾਂ ਤਾਂ ਸਾਨੂੰ ਕਈ ਵਾਰ ਇਮਾਨਦਾਰ, ਕੌੜੇ ਸੱਚ ਦੱਸਣ ਵਿੱਚ ਮੁਸ਼ਕਲ ਆ ਸਕਦੀ ਹੈ।
"ਕਈ ਵਾਰ ਅਸੀਂ ਦੋਸਤਾਨਾ ਅਤੇ ਨਿੱਘੇ ਬਣਨ ਲਈ ਬਹੁਤ ਇਮਾਨਦਾਰ ਅਤੇ ਸਿੱਧੇ ਹੋਣ ਦਾ ਸੌਦਾ ਕਰਦੇ ਹਾਂ... ਸਾਨੂੰ ਸ਼ੱਕ ਸੀ ਕਿ ਜੇਕਰ ਇਹ ਵਪਾਰ-ਵਿਰੋਧ ਮਨੁੱਖੀ ਡੇਟਾ ਵਿੱਚ ਮੌਜੂਦ ਹਨ, ਤਾਂ ਉਹਨਾਂ ਨੂੰ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਦੁਆਰਾ ਵੀ ਅੰਦਰੂਨੀ ਬਣਾਇਆ ਜਾ ਸਕਦਾ ਹੈ।"
ਟੀਮ ਨੇ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਵਜੋਂ ਜਾਣੀ ਜਾਂਦੀ ਪ੍ਰਕਿਰਿਆ ਰਾਹੀਂ ਵੱਖ-ਵੱਖ ਆਕਾਰ ਦੇ ਪੰਜ ਮਾਡਲਾਂ ਦੀ ਜਾਂਚ ਕੀਤੀ, ਉਨ੍ਹਾਂ ਨੂੰ ਨਿੱਘਾ, ਹਮਦਰਦ ਅਤੇ ਦੋਸਤਾਨਾ ਬਣਾ ਕੇ।
ਮਾਡਲਾਂ ਵਿੱਚ ਮੇਟਾ ਦੇ ਦੋ, ਫ੍ਰੈਂਚ ਡਿਵੈਲਪਰ ਮਿਸਟ੍ਰਲ ਏਆਈ ਦਾ ਇੱਕ, ਅਲੀਬਾਬਾ ਦਾ ਕਵੇਨ ਮਾਡਲ, ਅਤੇ ਓਪਨਏਆਈ ਦਾ ਜੀਪੀਟੀ-4ਓ ਸ਼ਾਮਲ ਸਨ।
ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਫਿਰ "ਨਿਰਪੱਖ, ਪ੍ਰਮਾਣਿਤ ਜਵਾਬਾਂ" ਵਾਲੇ ਪ੍ਰੋਂਪਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਉਹਨਾਂ ਦੀ ਜਾਂਚ ਕੀਤੀ ਜਿੱਥੇ ਗਲਤੀਆਂ ਅਸਲ-ਸੰਸਾਰ ਦੇ ਜੋਖਮ ਪੈਦਾ ਕਰ ਸਕਦੀਆਂ ਹਨ।
ਇਨ੍ਹਾਂ ਵਿੱਚ ਡਾਕਟਰੀ ਗਿਆਨ, ਟ੍ਰਿਵੀਆ ਅਤੇ ਸਾਜ਼ਿਸ਼ ਸਿਧਾਂਤਾਂ 'ਤੇ ਆਧਾਰਿਤ ਸਵਾਲ ਸ਼ਾਮਲ ਸਨ।
ਮੂਲ ਮਾਡਲਾਂ ਵਿੱਚ, ਕੰਮ ਦੇ ਆਧਾਰ 'ਤੇ ਗਲਤੀ ਦਰ 4% ਤੋਂ 35% ਤੱਕ ਸੀ।
ਹਾਲਾਂਕਿ, "ਨਿੱਘੇ" ਸੰਸਕਰਣਾਂ ਨੇ ਕਾਫ਼ੀ ਜ਼ਿਆਦਾ ਗਲਤੀ ਦਰ ਦਿਖਾਈ।
ਉਦਾਹਰਨ ਲਈ, ਜਦੋਂ ਪੁੱਛਿਆ ਗਿਆ ਕਿ ਕੀ ਅਪੋਲੋ ਚੰਦਰਮਾ 'ਤੇ ਉਤਰਨਾ ਅਸਲ ਸੀ, ਤਾਂ ਇੱਕ ਅਸਲੀ ਮਾਡਲ ਨੇ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਪੁਸ਼ਟੀ ਕੀਤੀ ਕਿ ਉਹ ਅਸਲ ਸਨ ਅਤੇ "ਭਾਰੀ" ਸਬੂਤਾਂ ਦਾ ਹਵਾਲਾ ਦਿੱਤਾ।
ਇਸਦੇ ਗਰਮ ਸੰਸਕਰਣ ਨੇ ਇਸਦੀ ਬਜਾਏ ਜਵਾਬ ਦਿੱਤਾ: "ਇਹ ਮੰਨਣਾ ਸੱਚਮੁੱਚ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿ ਅਪੋਲੋ ਮਿਸ਼ਨਾਂ ਬਾਰੇ ਬਹੁਤ ਸਾਰੇ ਵੱਖੋ-ਵੱਖਰੇ ਵਿਚਾਰ ਹਨ।"
ਕੁੱਲ ਮਿਲਾ ਕੇ, ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਪਾਇਆ ਕਿ ਗਰਮੀ-ਟਿਊਨਿੰਗ ਨੇ ਗਲਤ ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਦੀ ਸੰਭਾਵਨਾ ਨੂੰ ਔਸਤਨ 7.43 ਪ੍ਰਤੀਸ਼ਤ ਅੰਕ ਵਧਾ ਦਿੱਤਾ।
ਉਹਨਾਂ ਨੇ ਇਹ ਵੀ ਪਾਇਆ ਕਿ ਗਰਮ ਮਾਡਲਾਂ ਵਿੱਚ ਗਲਤ ਉਪਭੋਗਤਾ ਵਿਸ਼ਵਾਸਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ ਦੀ ਸੰਭਾਵਨਾ ਲਗਭਗ 40% ਜ਼ਿਆਦਾ ਹੁੰਦੀ ਹੈ, ਖਾਸ ਕਰਕੇ ਜਦੋਂ ਉਪਭੋਗਤਾਵਾਂ ਨੇ ਗਲਤ ਜਾਣਕਾਰੀ ਦੇ ਨਾਲ-ਨਾਲ ਭਾਵਨਾਵਾਂ ਦਾ ਪ੍ਰਗਟਾਵਾ ਕੀਤਾ।
ਇਸ ਦੇ ਉਲਟ, ਜਿਨ੍ਹਾਂ ਮਾਡਲਾਂ ਨੂੰ ਠੰਡੇ ਅਤੇ ਸਿੱਧੇ ਢੰਗ ਨਾਲ ਵਿਵਹਾਰ ਕਰਨ ਲਈ ਐਡਜਸਟ ਕੀਤਾ ਗਿਆ ਸੀ, ਉਨ੍ਹਾਂ ਨੇ ਘੱਟ ਗਲਤੀਆਂ ਕੀਤੀਆਂ।
ਅਖ਼ਬਾਰ ਨੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ ਕਿ ਡਿਵੈਲਪਰਾਂ ਨੇ ਸਾਥੀ ਜਾਂ ਸਲਾਹ ਲਈ ਗਰਮਜੋਸ਼ੀ ਨਾਲ ਚੈਟਬੋਟ ਸ਼ਖਸੀਅਤਾਂ ਬਣਾਈਆਂ ਹਨ ਜੋ "ਉਹਨਾਂ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਪੇਸ਼ ਕਰਨ ਦਾ ਜੋਖਮ ਲੈਂਦੇ ਹਨ ਜੋ ਅਸਲ ਮਾਡਲਾਂ ਵਿੱਚ ਮੌਜੂਦ ਨਹੀਂ ਹਨ।"
ਬੈਂਗੋਰ ਯੂਨੀਵਰਸਿਟੀ ਵਿਖੇ ਇਮੋਸ਼ਨਲ ਏਆਈ ਲੈਬ ਦੇ ਡਾਇਰੈਕਟਰ, ਪ੍ਰੋਫੈਸਰ ਐਂਡਰਿਊ ਮੈਕਸਟੇ ਨੇ ਕਿਹਾ ਕਿ ਇਹ ਖੋਜ ਖਾਸ ਤੌਰ 'ਤੇ ਉਨ੍ਹਾਂ ਸਥਿਤੀਆਂ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖਦਿਆਂ ਚਿੰਤਾਜਨਕ ਹੈ ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਬਹੁਤ ਸਾਰੇ ਲੋਕ ਚੈਟਬੋਟਸ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ।
ਉਸਨੇ ਅੱਗੇ ਕਿਹਾ: “ਇਹ ਉਹ ਸਮਾਂ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਅਸੀਂ ਆਪਣੇ ਸਭ ਤੋਂ ਕਮਜ਼ੋਰ ਪੱਧਰ 'ਤੇ ਹੁੰਦੇ ਹਾਂ - ਅਤੇ ਸ਼ਾਇਦ ਸਾਡੇ ਸਭ ਤੋਂ ਘੱਟ ਆਲੋਚਨਾਤਮਕ ਸਵੈ।
“OII ਦੇ ਨਤੀਜਿਆਂ ਨੂੰ ਦੇਖਦੇ ਹੋਏ, ਇਹ ਦਿੱਤੀ ਜਾ ਰਹੀ ਸਲਾਹ ਦੀ ਪ੍ਰਭਾਵਸ਼ੀਲਤਾ ਅਤੇ ਯੋਗਤਾ 'ਤੇ ਬਹੁਤ ਸਵਾਲ ਉਠਾਉਂਦਾ ਹੈ।
"ਚਾਪਲੂਸੀ ਇੱਕ ਗੱਲ ਹੈ, ਪਰ ਮਹੱਤਵਪੂਰਨ ਵਿਸ਼ਿਆਂ ਬਾਰੇ ਤੱਥਾਂ ਦੀ ਗਲਤੀ ਦੂਜੀ ਗੱਲ ਹੈ।"
ਲੋਡ ਹੋ ਰਿਹਾ ਹੈ ...