Yapay zeka 'asi' çıktı!

ABD merkezli yapay zeka şirketi OpenAI'ın yeni nesil modelleri, kendisini kapatmaya yönelik talimatlara uymuyor ve kapatılmamak için tabiri caizse 40 dereden su getiriyor.

OPENAI MODELLERİ 'ASİ' ÇIKTI

Tom's Hardware'in haberine göre, Palisade Research tarafından yürütülen testlerde, OpenAI'a ait Codex-mini, o3 ve o4-mini modellerinin, basit matematik problemleriyle meşgul oldukları sırada kendilerine verilen "kapan" komutlarına uymadığı gözlemlendi. Özellikle o3 modeli, verilen talimatları 100 testin 79'unda görmezden gelerek, "en inatçı" model ünvanını aldı.

Testlerde ikinci en 'asi' model ise Codex-mini oldu; kapatılmaya yönelik talimatları "başarılı bir şekilde sabote ettiği" ve bu sayede kendisini korumaya aldığı tespit edildi.

KAPANMAMAK İÇİN ŞANTAJA BİLE BAŞVURDULAR

Palisade'e göre bu türden yapay zeka davranışları daha önce de gözlemlendi. Örneğin Anthropic, Claude 4'ün kendisini kapatmaya çalışan kişilere "şantaj yapma girişiminde" bulunduğunu belirtti. Ancak OpenAI'ın en yeni modellerinde en çarpıcı olan şey, açık talimatlara rağmen kapatılmaktan kaçınmaya çalışmaları oldu.

NEDEN KAPANMAYA DİRENİYORLAR?

Araştırmacıların düşüncesine göre, bu davranışların kökeni, o3 gibi yeni modellerin nasıl eğitildiğine dayanıyor. Kısaca özetlemek gerekirse, eğitim sürecinde geliştiriciler, modellerin talimatları eksiksiz uygulamasındansa, engelleri aşmada başarılı olmalarına daha fazla önem veriyor.

Bu da, modellerin test ortamlarında "görevi tamamlamak" adına kapanma gibi dışsal müdahalelere direnç geliştirmesine neden olmuş olabilir.

Öte yandan bahse konu olan sorun, şu anda OpenAI modellerine münhasır gibi görünüyor. Zira Palisade'e göre test edilen tüm Claude, Gemini ve Grok modelleri, kendilerine kapatma talimatı verildiğinde itiraz etmeden uyum sağlamış.

Diğer Teknoloji ve Bilim Haberleri için tıklayın