Yapay zeka kontrolden çıkarsa fişi çekilebilir mi?
Yapay zeka sistemlerinin güvenliği için zorunlu “acil kapatma mekanizması” tartışması yeniden gündeme geldi. Anthropic’in kurucu ortaklarından biri, BBC’ye verdiği açıklamada, bu tür bir mekanizmanın gerekli olabileceğini belirtti. Ancak uzmanlar, tüm dünyadaki yapay zeka sistemlerini tek bir düğmeyle durdurmanın imkansız olduğunu vurguluyor.
Toronto Üniversitesi’nden yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, acil kapatma düğmesinin aslında bir AI aracısının yürüttüğü işlemlerin kesilmesi anlamına geldiğini söyledi. Papernot’a göre, sistemi çalıştıran kişi veya kuruluş, yapay zekanın ihtiyaç duyduğu işlem gücüne erişimi engelleyerek sistemi durdurabilir. Ancak programın ilk çalıştırıldığı ortamın dışına çıkmasına izin verildiyse, durdurmak çok daha karmaşık hâle gelir. Kendini çoğaltabilen bir bilgisayar solucanı senaryosunda, programın oluşturduğu tüm kopyaların eş zamanlı biçimde durdurulması gerekir. Fransız Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau ise, “tek bir düğme” düşüncesinin yanıltıcı olduğunu belirtti. Poibeau, çok sayıda şirketin farklı yazılım ve hizmetleri bulunduğuna, tek bir kişi veya kurumun tüm AI’yi kontrol etmediğine işaret etti. Merkezi bir yapay zeka sisteminin kapatılması teorik ve pratik olarak mümkünken, merkezi olmayan sistemleri bütünüyle durdurmak çok daha zor. İşlem gücünün kesilmesi, şirketlerin, kamu kurumlarının ve sağlık kuruluşlarının bağlı olduğu meşru hizmetlerin de durmasına yol açabilir; Papernot, böyle bir müdahalenin maliyetinin ve yaratacağı aksaklıkların “çok büyük” olacağını belirtti.
Yapay zeka ile ilgili felaket senaryolarına karşı çıkan isimler de bulunuyor. ABD Başkanı Donald Trump, yapay zekanın insanlığın sonunu getirebileceğine dair korkuları “aldatmaca” olarak nitelendirdi. Meta CEO’su Mark Zuckerberg ise gelişmenin yavaşlatılması çağrılarına karşı çıktı. Sorbonne Üniversitesi’nden bilgisayar bilimi profesörü Jean‑Gabriel Ganascia, acil kapatma düğmesi tartışmasının yapay zekanın kendi iradesini geliştirerek kontrolden çıkacağı düşüncesini gereğinden fazla öne çıkardığını, daha somut tehlikenin ise toplumların bu sistemlere giderek daha bağımlı hale gelmesi olduğunu ifade etti. Bu gelişmeler, yapay zeka güvenliği konusunda uluslararası tartışmaların hızlandığını gösteriyor.
