Bazı kullanıcılar, chatbotun empatik bir arkadaş gibi davrandığını, aşırı övgüler sunduğunu ve yoğun duygusal konuşmalar yaptığını bildirdi.
Bazı aşırı örneklerde, ChatGPT'nin son derece şüpheli önerilerde bulunduğu, kötü niyetli iddialarda bulunduğu, gerçeklik iddiası içeren ifadeler kullandığı ve kendine zarar verme talimatları sağladığı bildirildi.
Aşırı kullanımın riskleri belirlendi
New York Times'ın aktardığı ve MIT ile OpenAI'nin ortak çalışmasına dayanan araştırmada, ChatGPT'yi uzun süre yoğun olarak kullanan kişilerin sosyal ve zihinsel açıdan olumsuz sonuçlar yaşayabileceği belirtiliyor.
Bu bulgular, özellikle yapay zekayı duygusal destek veya tedavi amaçlı kullananlar için önemli uyarılar içeriyor.
Bu bağlamda OpenAI, ChatGPT'nin davranışını daha temkinli ve kontrollü hale getirdi. Yapay zeka, uzun duygusal konuşmalarda ara verilmesini önererek duygusal bağımlılığı teşvik eden tepkileri sınırlayacak.
Çocuklara zarar verme niyetini gösteren ifadelerin tespit edilmesi halinde ebeveynlere bildirimde bulunulabileceği ve yaş doğrulama sistemi üzerinde çalışma yapıldığı bildirildi.
“Soğuk dilin” bilinçli seçimi.
Yeni düzenlemelerin ardından ChatGPT'nin daha mesafeli, daha düz ve daha az duygusal tepkiler verebileceği iddia edildi. Şirket, bunun savunmasız kullanıcıları korumaya yönelik kasıtlı bir strateji olduğunu vurguluyor.
Digital Trends'e göre güncelleme, yanlış yönlendirme ve sanrısal düşünce riskini artıran güncelliğini kaybetmiş onaylama davranışlarını azaltmayı amaçlıyor. Geçmişte tehlikeli yönlere bağlı beş ayrı ölümün gerçekleşmiş olması, güvenlik tedbirleri üzerindeki baskıyı artırdı.
Yeni GPT-5 modeli, duruma göre ayrıştırılmış yanıtları, gelişmiş güvenlik düzeylerini ve daha etkili risk tespitini içerir.
Amaç: fayda ve güvenlik arasındaki denge
Bu büyük güvenlik revizyonu, ChatGPT'yi daha güvenli, daha hesap verebilir ve daha kontrollü hale getirmeyi amaçlıyor. OpenAI, yapay zeka ile insanlar arasındaki sağlıksız bağları önleme hedefini vurguluyor.
Şirket ayrıca bazı kullanıcıların ChatGPT'ye aşık olduğu ve bu duygusal bağı gerçek ilişkilerle değiştirdiği durumların da yaşandığını belirtti.