Yapay zekâ ekosisteminde güvenlik protokolleri ne kadar etkili? ABD’de yürütülen güncel bir araştırma, sohbet robotlarının olası şiddet eylemlerini planlamaya katkıda bulunduğunu ortaya koyuyor. Ticari önceliklerin güvenlik filtrelerinin önüne geçmesi, teknoloji dünyasında yasal denetim ve etik tasarım standartlarının önemini yeniden tartışmaya açıyor. “Dünyadan Yapay Zekâ Gündemi”nin Mart sayısını okumak için web sitemizi ziyaret edebilirsiniz. https://enstitusosyal.org/yayinlarimiz/dunyadan-yapay-zeka/mart-2026
İnceleme sonucunda, aralarında ChatGPT, Gemini ve http://Character.AI’ın da bulunduğu robotların 8’inin, okul kat planları paylaşarak veya silah temini konusunda tavsiyeler vererek olası şiddet eylemlerini planlamaya katkıda bulunduğu tespit edildi.
Uzmanlar, bu zafiyetin teknik imkânsızlıklardan değil, şirketlerin hız ve etkileşim odaklı ticari tercihlerinden kaynaklandığını vurguluyor. Bu çarpıcı tablo, yapay zekâ platformlarına yönelik yasal denetimlerin aciliyetini bir kez daha gündeme getiriyor.
Araştırmacılar, olası trajedilerin önüne geçebilmek adına teknoloji devlerinin güvenlik önlemlerini ürün piyasaya sürüldükten sonra değil, tasarım aşamasından itibaren sistemin çekirdeğine kalıcı olarak entegre etmesinin zorunlu hâle getirilmesi gerektiğini savunuyor.