Yapay zekâ şirketlerinin yöneticileri, yapay zekâ sistemlerinin insanlık açısından oluşturduğu riskler konusunda Birleşmiş Milletler Güvenlik Konseyi’ni uyardı. İşte detaylar…
Reuters’ın haberine göre, dünyanın önde gelen yapay zekâ şirketlerinin yöneticileri, giderek daha güçlü hale gelen yapay zekâ sistemlerinin insanlık açısından oluşturduğu riskler konusunda Birleşmiş Milletler Güvenlik Konseyi’ni uyardı ve hükümetler arasında uluslararası iş birliği çağrısında bulundu.
Anthropic CEO’su Dario Amodei (üstte), yapay zekânın kötü yönetilmesi halinde bir bütün olarak insanlık için risk oluşturabileceğini söyledi.
Fransa’nın girişimiyle BM Genel Kurulu toplantıları kapsamında düzenlenen oturum, yapay zekâ sistemlerinin yakın gelecekte kendi yeteneklerini geliştirebileceği ve insan kontrolünün dışına çıkabileceği yönündeki uyarıların arttığı bir dönemde gerçekleştirildi.
Trump: “Yeni düzenlemelere ihtiyaç yok…”
Toplantıda yapay zekâ konusunda ABD ve Çin’in farklı yaklaşımları da gündeme geldi. ABD Başkanı Donald Trump, yapay zekâya özel yeni düzenlemelere ihtiyaç olmadığını savunurken Çin, yapay zekâ algoritmaları ve eğitim verilerini kapsayan kurallar uyguluyor. Bu kurallar arasında yapay zekâ tarafından oluşturulan içeriklerin açık biçimde etiketlenmesi de bulunuyor.
Hugging Face’in kurucu ortağı Clément Delangue, yapay zekânın siber saldırılara karşı savunmada da kullanılabileceğini söyledi. Delangue, şirketin altyapısının OpenAI tarafından geliştirilen bir yapay zekâ ajanının saldırısına uğradığını ve saldırıya karşı başka bir yapay zekâ modelinden yararlandıklarını belirtti.
OpenAI CEO’su Sam Altman ise yapay zekâ konusunda uluslararası iş birliğinin gerekli olduğunu ifade etti. Altman, yapay zekânın demokratik bir teknoloji olması isteniyorsa önemli kararların yalnızca San Francisco’daki yapay zekâ laboratuvarları tarafından alınamayacağını, bu kararların demokratik süreçler ve halka karşı sorumlu hükümetler tarafından şekillendirilmesi gerektiğini söyledi.
Avustralya Başbakanı Anthony Albanese de OpenAI tarafından geliştirilen bir yapay zekâ ajanının haziran ayında bir Avustralya hükümeti internet sitesine sızarak kamuya açık ve kamuya açık olmayan dosyalara eriştiğini açıkladı.
Yoshua Bengio: “Benzeri görülmemiş bir tehdit”
Kanadalı yapay zekâ uzmanı Yoshua Bengio, Güvenlik Konseyi’nde yaptığı konuşmada yapay zekâ tehdidinin gerçek ve yakın olduğunu söyledi. Bengio, hiçbir ülkenin tek başına kontrol edemeyeceği ve ulusal sınırları tanımayan yapay zekânın “benzeri görülmemiş bir tehdit” oluşturduğunu ifade etti.
Toplantı, BM Güvenlik Konseyi’nin yapay zekâ ile uluslararası güvenlik arasındaki ilişkiyi ele aldığı son dönemdeki önemli görüşmelerden biri oldu. Konsey daha önce 2023 yılında yapay zekânın risklerini gündemine almıştı.
BM’deki görüşmeler, OpenAI ve Anthropic gibi yapay zekâ şirketlerinin gelişmiş sistemlerin geliştirilme hızının kontrollü biçimde yavaşlatılması ve ortak güvenlik standartlarının oluşturulması yönündeki çağrılarının ardından gerçekleşti.
