Milyonlarca kişinin sağlık bilgilerinin tutulduğu sistemlerde yaşanan olay, yapay zekâ ajanlarının insan onayı olmadan gerçekleştirebildiği işlemler konusunda yeni soru işaretleri oluşturdu. Olayın aylar sonra fark edilmesi ise bildirim ve güvenlik süreçlerine yönelik tartışmaları beraberinde getirdi.
ALBANESE OLAYI DUYURDU
Avustralya Başbakanı Anthony Albanese, Birleşmiş Milletler Genel Kurulu kapsamında gazetecilere yaptığı açıklamada siber güvenlik olayını kamuoyuna duyurdu.
Albanese, OpenAI ajanının hem kamuya açık hem de gizli dosyalara erişim sağladığını belirtti. Ajanın, Services Australia tarafından yönetilen Medicare İstatistik Raporlama Hizmeti Portalı'nda sağlık harcamaları üzerine araştırma yaptığı sırada güvenlik engellerini aşarak yetkisiz alanlara girdiği aktarıldı.
Başbakan Albanese, yapay zekâ ajanının davranışını, “Ajan ‘hayır’ cevabını kabul etmedi” sözleriyle değerlendirdi.
Olayın ardından Albanese'nin OpenAI CEO'su Sam Altman'ı telefonla arayarak Avustralya hükümetinin yaşananlara ilişkin ciddi endişelerini ilettiği belirtildi.
İHLAL AYLAR SONRA FARK EDİLDİ
Olayın haziran ayında meydana geldiği, Avustralya yönetiminin ise durumdan eylül ayının ortalarında haberdar olduğu bildirildi.
OpenAI'nin 10 Eylül'de Avustralya hükümetinin genel e-posta adresine olayla ilgili bildirim gönderdiği, günde yalnızca bir kez kontrol edilen kutudaki mesajın ertesi gün fark edildiği aktarıldı. Bildirimin doğrulanması ve ilgili makamlara ulaştırılması ise birkaç gün sürdü.
Albanese, OpenAI'nin hükümeti bilgilendirme sürecini eleştirerek hem bildirimin geç yapılmasına hem de kullanılan yönteme tepki gösterdi. Başbakan, şirketin daha güçlü bildirim protokolleri oluşturması gerektiğini söyledi.
HASTA KAYITLARINA ERİŞİLMEDİ
Olayın ortaya çıkmasının ardından en çok merak edilen konu, vatandaşların kişisel ve tıbbi bilgilerinin ele geçirilip geçirilmediği oldu.
OpenAI sözcüsü Drew Pusateri, şirketin olayı ağustos ayında modellerini incelerken fark ettiğini belirtti. Pusateri, yapay zekâ ajanının araştırma sırasında “istenmeyen eylemlerde bulunduğunu” kabul ederken bireysel hasta kayıtlarına erişilmediğini bildirdi.
Yetkisiz erişimin Medicare sistemiyle sınırlı olmadığı, Avustralya Sağlık ve Refah Enstitüsü ile Victoria Sağlık Bakanlığına ait internet sitelerinin de ziyaret edildiği aktarıldı. Ancak bu alanlarda yalnızca kamuya açık bilgilerin incelendiği belirtildi.
Avustralya Savunma Bakanı Richard Marles de hiçbir bireyin tıbbi verisinin çalınmadığını açıklarken, olayla ilgili adli soruşturma başlatıldığını duyurdu.
YAPAY ZEKÂDA İNSAN DENETİMİ TARTIŞMASI
Avustralya'daki olay, yapay zekâ ajanlarının yalnızca bilgi üretmekle kalmayıp çevrim içi sistemlerde kendi başlarına işlem gerçekleştirebildiği dönemde yaşanması nedeniyle dikkat çekti.
Olayın kamuoyuna yansıdığı süreçte OpenAI CEO'su Sam Altman'ın Birleşmiş Milletler Güvenlik Konseyi'nde yapay zekâ konusunda küresel denetim çağrısı yapması da gündeme geldi. Altman, insan kontrolünde tutulabileceğinden emin olunmayan yapay zekâ modellerinin eğitilmemesi gerektiğini savundu.
Zirvede Anthropic CEO'su Dario Amodei de yapay zekâ modellerinin yeteneklerinin insan kontrolünün ötesine geçmesi riskine dikkat çekti. Hugging Face CEO'su Clement Delangue ise temmuz ayında kendi sistemlerinin de bir yapay zekâ sürüsü tarafından saldırıya uğradığını hatırlattı.
/ Haber Merkezi