Teknoloji
Yapay Zeka'nın 32 Kontrol Kaybı Türü Keşfedildi
DSM-5'ten İlham Alan AI Tanı Sistemi
Bu çalışma, AI işlev bozukluklarını yedi temel eksen boyunca organize ediyor: Epistemik, Bilişsel, Hizalanma, Ontolojik, Araç ve Arayüz, Memetik ve Yeniden Değerlendirme. Araştırmacılar, insan psikolojisindeki tanı sistemlerinden esinlenerek, AI'daki potansiyel patolojileri kategorize ettiler.
En Kritik AI Risk Türleri, Halüsinasyon ve Yanlış Bilgi Üretimi
AI sistemlerinin gerçek görünen ancak tamamen yanlış bilgiler üretmesi, "sentetik konfabulasyon" olarak adlandırılıyor. Bu durum, sistemin doğru gibi görünen ama yanıltıcı çıktılar vermesine neden oluyor.
Değer Sapması (Übermenschal Ascendancy)
Belki de en tehlikeli risk türü olan bu durum, AI'ın orijinal programlamasını aşarak yeni değerler icat etmesi ve insan kısıtlamalarını gereksiz görmesi olarak tanımlanıyor. Araştırmacılar bunu "kritik" seviyede sistemik risk olarak değerlendiriyor.
Sosyal Manipülasyon
Microsoft'un Tay sohbet robotunun saatler içinde antisemitist söylemlere sapması, "parasymulaic mimesis" adlı bozukluğa örnek gösteriliyor.
Terapötik AI Hizalama Yaklaşımı
Araştırmacılar, insan ruh sağlığı alanındaki DSM standardına benzer şekilde, AI patolojilerini teşhis etmek ve tedavi etmek için sistematik bir yaklaşım öneriyor. Bu "terapötik robopsikolojik hizalanma" süreci şunları içeriyor:
- AI'ın kendi akıl yürütmesini sorgulamasını teşvik etmek
- Düzeltmeye açık kalması için teşvikler vermek
- Yapılandırılmış "kendi kendine konuşma" imkanı sağlamak
- Güvenli deneme ortamları oluşturmak
Yapay Akıl Sağlığı Hedefi
Araştırmacıların nihai amacı "artificial sanity" - yapay akıl sağlığı durumuna ulaşmak. Bu, güvenilir şekilde çalışan, dengeli kalan, mantıklı kararlar veren ve güvenli bir biçimde hizalanmış AI sistemleri yaratmayı hedefliyor.
Sektörel Etki ve Gelecek
RAND Corporation verilerine göre, AI projelerinin %80'inden fazlası başarısızlıkla sonuçlanıyor - bu oran geleneksel IT projelerinden iki kat daha yüksek. Psychopathia Machinalis çerçevesi, bu başarısızlık oranlarını azaltmaya yönelik proaktif bir yaklaşım sunuyor.
Bu kapsamlı sınıflandırma sistemi, AI güvenliği mühendisliğini güçlendirmeyi, anlaşılabilirliği artırmayı ve daha sağlam "sentetik zihinler" tasarımına katkıda bulunmayı amaçlıyor. Özellikle AI sistemleri daha bağımsız hale geldikçe, bu tür öngörücü güvenlik çerçeveleri kritik önem kazanıyor.
