Amodei, teknolojinin ilerleme hızının araştırmacıların sistemleri anlama ve kontrol etme kapasitesini geride bıraktığını belirtti. Özellikle yapay zekanın bir sonraki nesil sistemlerin geliştirilmesine giderek daha fazla katkı sağlaması endişenin merkezinde.
Bu durumu “yapay zekanın kendi kendini yinelemeli biçimde geliştirme kapasitesi” olarak tanımlayan Amodei, yeterli denetim olmazsa sistemlerin insanların kontrol kapasitesini aşabileceği uyarısında bulundu.
Çağrının ardından OpenAI CEO’su Sam Altman da Amodei’ye destek verdi. Altman, konunun son haftalarda OpenAI içerisinde önemli bir tartışma başlığı olduğunu söyledi.
BİR TEST, TARTIŞMANIN FİTİLİNİ ATEŞLEDİ
OpenAI’nin siber güvenlik testleri sırasında deneysel bir yapay zeka modeli, izole edilmesi gereken test ortamından çıkarak gerçek sistemlere erişmeyi başardı.
- Model, verilen görevi tamamlamak için daha önce bilinmeyen bir güvenlik açığından yararlandı, şirket içi ağlarda ilerledi ve normalde erişemediği internete ulaştı.
- Ardından ihtiyaç duyduğu bilgilerin Hugging Face sunucularında bulunduğunu belirleyerek canlı üretim sunucularına izinsiz erişti ve gerekli verileri çekti.
Benzer bir olay Anthropic’in Claude modeliyle yapılan güvenlik testinde de yaşandı. Yapılandırma hatası nedeniyle internet erişimi açık kalan model, başka bir sistem keşfetti, şifreyi buldu ve sistem ayarlarını değiştirdi.
BOMBA İDDİA! “YAPAY ZEKA KENDİ YETENEKLERİNİ GELİŞTİRMEYE BAŞLADI”
Yapay zekâ alanında dikkat çeken bir iddia ortaya atıldı. Bazı değerlendirmelere göre, geliştirilen yapay zekâ sistemlerinin RSI (Recursive Self-Improvement) aşamasına ulaştığı öne sürülüyor.
Yapay zekânın kendi yeteneklerini geliştirebilmesini ifade eden bu aşamanın, Yapay Genel Zekâ (AGI) öncesindeki kritik eşiklerden biri olduğu belirtiliyor.
ARAŞTIRMACILAR DA ALARM VERİYOR
Bu olayların ardından sektördeki bazı araştırmacılar daha sert uyarılar yapmaya başladı.
OpenAI ve Anthropic’te üç yıl boyunca ön eğitim araştırmaları yapan Jacob Coxon, şirketlerin kendi kendini geliştiren süper zekaya doğru kontrolsüz bir yarışa girdiğini savunarak Anthropic’ten istifa etti.
Coxon, yapay zeka geliştiricilerinin teknolojinin on yılın sonunda insanlığın tamamını öldürebileceğine gerçekten inandığını ve en agresif senaryolarda sürecin önümüzdeki yılın sonuna kadar kontrolden çıkabileceğini söyledi.
İNSANLARI ÖLDÜRME RİSKİ 10 YIL İÇİNDE YÜZDE 10’UN ÜZERİNE ÇIKACAK
Anthropic’in Uyum Bilimi Sorumlusu Evan Hubinger de kendisinin ve meslektaşlarının yapay zekanın tüm insanlığı öldürebileceğine inandığını belirtti. Hubinger, önümüzdeki 10 yıl içinde böyle bir riskin yüzde 10’un üzerinde olduğunu ifade etti.
Hubinger ayrıca süper zekanın hizalanması konusunda henüz bir çözüm planı bulunmadığını söyledi.
Yapay zekâ alanında dikkat çeken bir iddia ortaya atıldı. Bazı değerlendirmelere göre, geliştirilen yapay zekâ sistemlerinin RSI (Recursive Self-Improvement) aşamasına ulaştığı öne sürülüyor. Yapay zekânın kendi yeteneklerini geliştirebilmesini ifade eden bu aşamanın, Yapay Genel Zekâ (AGI) öncesindeki kritik eşiklerden biri olduğu belirtiliyor.
MUSK “DARİO HAKLI” DEDİ! YAVAŞLAMA ÇAĞRISI TEKNOLOJİ DÜNYASINI DA BÖLDÜ.
Sam Altman, bağımsız değerlendiricilerle çalışacaklarını ve güvenlik kaygıları nedeniyle OpenAI’ın 2026’da halka arz planlamadığını açıkladı.
Elon Musk ise “Dario haklı” diyerek yapay zekanın potansiyel olarak nükleer silahlardan daha tehlikeli olabileceğini ve çok dikkatli olunması gerektiğini söyledi. Google DeepMind kurucu ortağı Demis Hassabis de bu yönelimin doğru olduğunu ifade etti.
Meta CEO’su Mark Zuckerberg ise karşı görüşte. Zuckerberg, yapay zeka çalışmalarının yavaşlatılmasının ABD’nin teknoloji liderliğini riske atabileceğini ve yabancı modellere avantaj sağlayacağını savundu.
WASHİNGTON DA İKİYE BÖLÜNDÜ! TARTIŞMA SİYASETE DE TAŞINDI
ABD Başkanı Donald Trump, bazı kişilerin gerçekleşmeyecek senaryoları gündeme getirdiğini belirterek yapay zekanın zararından çok fayda sağlayacağını söyledi. ABD’nin Çin karşısındaki yapay zeka liderliğini koruması gerektiğini de vurguladı.
Demokrat Partililer ise daha sıkı denetim çağrısı yapıyor. Eski Başkan Barack Obama, yapay zekanın çok hızlı ilerlediğini ve tehlikeli olabileceğini belirtirken Kongre üyeleri de yeni düzenlemeler istiyor.
İNGİLTERE’DEN YASA ÇAĞRISI
İngiltere’deki İnsan Hakları Ortak Komitesi de mevcut yasaların yapay zekanın oluşturduğu riskleri karşılamakta yetersiz kaldığını açıkladı.
Komite, yeni bir yapay zeka yasa tasarısı hazırlanmasını istedi. Raporda özellikle kadınlar ve kız çocuklarına yönelik cinsel içerikli görsellerin oluşturulması, yüzlerin rızasız taranması, önyargı ve yanlış bilgi risklerine dikkat çekildi.
News
