Yapay zeka sistemlerinin milyarlarca parametreden oluşan karmaşık yapısı, karar alma süreçlerinin dışarıdan anlaşılmasını zorlaştırdığı için bilim dünyasında uzun müddettir “kara kutu” olarak nitelendiriliyordu. Massachusetts Teknoloji Enstitüsü (MIT) bilgisayar bilimcilerinin yürüttüğü ve 2 Kasım’da ön baskısı yayımlanan yeni araştırma, bir yapay zeka modelinin öteki bir modelin iç mimarisine girerek adeta bir “motor tamircisi” üzere yanılgı ayıklaması yapabildiğini kanıtladı. mOpenAI tarafından geliştirilen “GPT-6 Astra” modelini test eden MIT ekibi, gelişmiş sistemlerin öteki yapay zekaların sinir ağı yüklerini tahlil edip müdahalede bulunabildiğini belgeledi.
NÖRON AĞIRLIKLARININ YÜZDE 0,016’SINI DÜZENLEYEREK BAŞARIYI 6 KAT ARTIRDI
Yapay zeka modelleri, insan beynindeki sinapsları taklit eden ve “ağırlık” (weight) ismi verilen milyarlarca ilişki bedeliyle çalışıyor. Araştırmacılar, Astra’nın bu ham bilgileri okuyup okuyamadığını ölçmek emeliyle evvel Pong ve Pac-Man üzere oyunlar için eğitilmiş farklı hudut ağlarının datalarını sisteme yükledi. Astra, hiçbir ek bilgi verilmeden hangi data ağının hangi oyuna ilişkin olduğunu yanılgısız biçimde tespit etti.
Çalışmanın en çarpıcı evresinde ise Astra’ya daha küçük bir dil modeli olan “Qwen 3.5″in iç bedelleri verilerek modelin matematik marifetini güzelleştirmesi istendi. Sistemdeki yapısal bir yanılgıyı saptayan Astra, modelin temas yüklerinin sadece yüzde 0,016’sını yine düzenleyerek Qwen’in MATH-500 matematik testindeki puanını yüzde 7,9’dan yüzde 48,1 düzeyine yükseltti.
BELİRGİN HATASI OLMAYAN MODELLERDE ETKİ SINIRLI KALDI
Araştırma grubu, tıpkı metodu bariz bir yazılım kusuru bulunmayan “Gemma 3” modeli üzerinde de test etti. Astra bu modelde sırf küçük akıl yürütme aksaklıkları tespit edebildi ve yapılan müdahale matematik test skorunda en fazla 0,9 puanlık hudutlu bir artış sağladı.
MIT makine tahsili araştırmacısı Rikiya Takehi, bu yeteneğin geliştirilmesi halinde gelecekte yapay zeka modellerini sıfırdan eğitmek için gereken devasa bilgi, güç ve vakit maliyetlerinin büyük ölçüde azalabileceğini vurguladı.
YAPAY ZEKA GÜVENLİĞİ VE SİBER SAVUNMA İÇİN YENİ BİR DÖNEM
Oxford Üniversitesi yapay zeka güvenliği araştırmacısı Fazl Barez ve Harvard Üniversitesi’nden biyoinformatikçi Marinka Zitnik, modellerin iç işleyişini otomatik olarak yorumlayabilmenin bilim ve güvenlik açısından kritik değer taşıdığını belirtti.
Uzmanlar, yapay zeka “tamircisi” olarak nitelendirilen bu sistemlerin olgunlaşmasıyla birlikte, modelleri gerçek dünyada kullanıma sunmadan evvel bilinmeyen yanlışların ayıklanabileceğini ve gerçek siber taarruz açıklarının teşhis edilerek inançlı yapay zeka altyapılarının inşa edilebileceğini söz ediyor.
Çorum’da 2 bin 300 yıllık mezarlar bulundu: ‘Şimdiye dek en güzelini bulduk’
1
Çorum’da 2 bin 300 yıllık mezarlar bulundu: ‘Şimdiye dek en güzelini bulduk’
14405 kez okundu
2
Artık yıl: Şubat ayı neden 4 yılda bir 29 gün?
4502 kez okundu
3
Uzmanı öneriyor: Kanser hastalarına umut olacak!
4165 kez okundu
4
Karaciğeri toksinlerden arındıran mucize usul: Enginar suyu nedir, nasıl tüketilir? Enginar suyunun yararları nelerdir?
3015 kez okundu
5
Ceketin sahibi aşikâr oldu: MasterChef Türkiye’de 24 Aralık’ta 3. ceketin sahibi kim oldu?
2671 kez okundu