Yapay zekânın hızla gelişmesi, bu sistemlerin insan kontrolünden çıkıp çıkmayacağına ve insanlığa zarar verme riskine ilişkin tartışmaları yoğunlaştırıyor.
Teknoloji dünyasının önde gelen isimleri, geliştirme çalışmalarının yavaşlatılması konusunda ayrışırken Meta CEO'su Mark Zuckerberg, güvenliği sağlamak için bağımsız değerlendiricilerle çalışılması gerektiğini savunuyor.
İnsanlığın Geleceğine Ilişkin Uyarılar Gündemde
Tartışmaların merkezinde, gelişmiş yapay zekâ sistemlerinin nasıl kontrol altında tutulacağı sorusu bulunuyor. Anthropic'in güvenlik araştırmacısı Evan Hubinger'in, yapay zekânın tüm insanları öldürme ihtimalini yüzde 10'un üzerinde gördüğünü belirtmesi de bu kaygıları gündeme taşıdı. Bu oran, araştırmacının kişisel risk değerlendirmesini yansıtıyor.
Anthropic CEO'su Dario Amodei de olası tehditlere dikkat çekerek yapay zekâ geliştirme çalışmalarının yavaşlatılması çağrısında bulundu. OpenAI CEO'su Sam Altman ve xAI CEO'su Elon Musk'ın da desteklediği bu yaklaşım, sektörde güvenliğin nasıl sağlanacağına ilişkin görüş ayrılıklarını belirginleştirdi.
Zuckerberg Güven Ve Kullanıcıyla Uyumu Öne Çıkarıyor
Bu tartışmaya katılan Zuckerberg, X hesabındaki paylaşımında yapay zekânın kullanıcıların amaçlarıyla uyumlu çalışmasının şirketler açısından belirleyici hale geldiğini söyledi. Bu konuya yeterince odaklanmayan geliştiricilerin rekabette geride kalacağını savundu.
Zuckerberg, "Uyum çalışmaları gelişmelere yetişene kadar yapay zekânın yeteneklerindeki ilerlemeyi yavaşlatmak konusunda çok fazla tartışma var. Benim görüşüm, güven ve uyumun, yapay zekâ ajanlarını ve modellerini birbirinden ayıracak en önemli yetenekler haline hızla geldiği yönünde" dedi.
Güvenlik çalışmalarında şirket dışından uzmanların katkısını da önemseyen Zuckerberg, "Bağımsız değerlendiriciler ve danışmanlarla çalışmak, sektördeki en iyi uygulamalardan biri… Daha geniş ve daha çeşitli bir değerlendirici ekosisteminin bulunması yararlı olur" ifadelerini kullandı.
Meta Kendi Modelini Erteledi
Zuckerberg, bu yaklaşımın şirketlerin gerektiğinde kendi çalışmalarını yavaşlatmasına engel olmadığını Meta'dan bir örnekle anlattı. Şirketin, güvenlik çalışmalarına odaklanmak amacıyla yeni yapay zekâ modeli Muse'un kullanıma sunulmasını ertelediğini belirtti.
Şirketlerin bireysel sorumluluğunu öne çıkaran bu tutum, Nvidia CEO'su Jensen Huang'ın yaklaşımıyla da örtüşüyor. Huang, geliştirme hızını birlikte düşürmek isteyen yapay zekâ şirketlerine rekabet hukukundan muafiyet tanınması önerisini eleştiriyor.
Güvenlik sorunlarını çözme sorumluluğunun geliştiricilerde olduğunu savunan Huang, şirketlerin ürettikleri sistemler için daha fazla sorumluluk üstlenmesi gerektiğini belirtiyor.