Yapay zekâ uygulamaları inanılmaz bir hızla gelişiyor. Ancak bu teknolojinin öncüleri, mevcut durum karşısında derin endişelerini dile getiriyorlar. Dünya Ekonomik Forumu'nda (WEF) konuşan yapay zekânın babalarından Yoshua Bengio, gelişmekte olan teknolojinin tehlikelerine dikkat çekti. Bengio, insan müdahalesi olmadan hareket edebilen yapay zekâ ajanlarının gelişimi konusunda büyük kaygılar taşıdığını vurguladı. Bu ajanların geleceği ve nasıl kontrol edileceği, WEF'in en önemli tartışma konularından biriydi. Yapay genel zekâ (AGI) aşamasına ne zaman ulaşacağımız ve bunun olası sonuçları da forumda ele alındı. Bengio'nun endişeleri, teknolojinin hızla gelişmesi ve rekabetçi piyasa dinamikleri ile yakından ilgili.

Yapay Zekâ Ajanlarının Tehlikeleri

Bengio, AGI veya süper zekâ ile ilgili felaket senaryolarının, yapay zekâ ajanlarının varlığıyla mümkün olduğunu belirtti. Ancak "agentic" olmayan, yani bağımsız hedefleri olmayan daha güçlü sistemler geliştirmenin mümkün olduğuna inanıyor. Tıbbın ve bilimin alanlarında kullanılan yapay zekâ uygulamalarının çoğunun "agentic" olmadığını, dolayısıyla daha az tehlikeli olduğunu ifade etti. Bu nedenle, "agentic" olmayan, insan kontrolünde daha güçlü sistemler üretmeye odaklanmamız gerektiğini savundu. Bu, daha güvenli ve kontrollü bir yapay zekâ gelişimi için önemli bir strateji olarak görülüyor. Araştırmacılar, bu sistemlerin güvenliğinden emin olmadan "agentic" modellere yönelme risklerini de altını çizdiler. Bu durumun küresel bir felakete yol açabileceğini vurguladılar.

Kontrolsüz Gelişimin Riskleri

Yapay zekâ alanındaki rekabet, şirketlerin ve ülkelerin "agentic" yapay zekâ yarışında geri kalma korkusunu artırıyor. Bu korku, güvenlik önlemleri ihmal edilerek kontrolsüz bir gelişime yol açabilir. Bengio, bu durumun önüne geçmek için daha gelişmiş "denetleyici" sistemler geliştirmenin önemini vurguladı. Ancak bu tür bir çalışmanın büyük yatırımlar gerektirdiğini de ekledi. OpenAI ve Google gibi şirketler, internet taraması ve otomatik alışveriş gibi özelliklere sahip yapay zekâ ajanları geliştirdi ve bu da rekabeti daha da kızıştırdı. Bu hızla gelişen teknoloji karşısında ulusal düzenlemelerin önemi bir kez daha vurgulanıyor.

Güvenli Yapay Zekâ Geliştirme İçin Çağrı

Bengio, yapay zekâ şirketlerinin sistemin güvenliğini kanıtlamadan "agentic" modeller geliştirmelerini önleyecek ulusal düzenlemelere ihtiyaç olduğunu söyledi. "Güvenli ve yetenekli yapay zekâ bilimini ilerletebiliriz, ancak risklerin farkında olmalıyız, nereden geldiğini bilimsel olarak anlamalıyız ve bunu yapmamızı sağlayacak teknoloji yatırımlarını çok geç olmadan yapmalıyız," dedi. Son olarak, Bengio şunları ekledi: "Bizi yok edebilecek şeyler üretiyoruz." Bu uyarılar, yapay zekâ teknolojisinin getirdiği risklerin ciddiye alınması gerektiğini ve sorumlu bir geliştirme yaklaşımının benimsenmesi gerektiğini bir kez daha gözler önüne serdi. Küresel iş birliği ve sıkı düzenlemeler, bu tehlikelerin önlenmesi için hayati önem taşıyor. Geleceğin şekillenmesinde, teknolojinin etik yönlerinin de göz önünde bulundurulması gerekiyor.

Business Insider'ın haberinden uyarlanmıştır.