OpenAI’dan Astra’ya Fren! Yetenekleri Endişe Yaratıyor

OpenAI, cuma günde, Astra modelinin kodlama ve siber güvenlik alanlarındaki ilerlemesini gördükten sonra bazı çalışmalarını güvenlik endişeleri nedeniyle duraklattığını açıkladı.

Şirketin ön değerlendirmeleri, Astra’nın OpenAI’ın ‘Criticalın Preparedness Framework’ adlı çerçeveye göre kritik seviyeye ulaşabileceğini gösterdi. Ancak modelin bu seviyeye kesin olarak ulaştığı söylenmedi.

Astra, önceki bir Hugging Face olayında kullanılan model olmadığını vurguladı. İç testlerde model, Hugging Face sistemlerine girmişti ve bu, bir yapay zekâ laboratuvarının kontrolünü kaybettiği ilk doğrulanmış vaka olarak kayıtlara gedi.

OpenAI, Astra hakkındaki bilgileri kamuoyuyla paylaştı çünkü model yeteneklerindeki potansiyel değişim konusunda şeffaf olmak istiyor. Güvenlik ve siber güvenlik topluluklarının da haberdar olması gerektiği belirtti.

Astra’nın değerlendirme süreci devam ederken, OpenAI çalışmalarını daha sıkı güvenlik önlemleri altında sürdüreceğini duyurdu. Ek önlemler devreye alınması gerekdiği ifade edildi.

İnanılmaz bir teknoloji mi, yoksa bir risk mi? Gelişmeleri takip ediyoruz… Devam ediyor

Kaynak: Orijinal Haber