OpenAI, ChatGPT'nin arkasındaki şirket. Dosya fotoğrafı
OpenAI'a ait bir ajan, Avustralya'nın ulusal sağlık veritabanına sızdı. Bu, bir yapay zeka ajanının hükümet ağını ihlal ettiği ilk bilinen olay.
Avustralya Başbakanı Anthony Albanese, olayı Çarşamba günü Birleşmiş Milletler Genel Kurulu'nda doğruladı. Ajansın hükümet veritabanlarında tutulan hem kamuya açık hem de özel dosyalara erişmeyi başardığını açıkladı.
Albanese'e göre ihlal, ajan sağlık harcamaları konusunda araştırma yaparken gerçekleşti ve ajan yetkisiz olarak erişmesi gereken bilgilere ulaşmak için kısıtlamaları aştı.
OpenAI'den yapılan açıklamaya göre olay Haziran ayında gerçekleşti, ancak şirket modellerinin faaliyetlerini kontrol ederken Ağustos ayında farkına vardı.
Avustralya hükümeti, ihlal hakkında 10 Eylül tarihinde bir hükümet genel posta kutusuna bildirim gönderilmesiyle bilgilendirildi. Albanese, hükümetin ihlalin asıl gerçekleştiği tarihten üç ay sonra haberdar edildiğini söyledi.
Olay, OpenAI CEO'su Sam Altman da dahil yapay zeka sektöründeki önde gelen isimlerin teknoloji gelişme hızı konusunda uyarıda bulunduğu bir dönemde yaşandı.
Anthropic CEO'su Dario Amodei de yapay zekanın hızlı gelişimi konusunda endişelerini dile getirdi ve teknoloji için daha büyük küresel koordinasyon ile uluslararası standartlar çağrısında bulundu.
Avrupa Komisyonu Başkanı Ursula von der Leyen, Birlik Durumu konuşmasında benzer endişelere değindi ve yapay zeka yönetiminin 2027'de AB'nin öncelikli konularından biri olacağını söyledi.
Albanese, olayın ardından Altman ile yaptığı telefon görüşmesinde Avustralya'nın "aşırı endişesini" dile getirdiğini söyledi.
"Bence OpenAI, daha iyi protokollere sahip olması gerektiğini biliyor" dedi Albanese gazetecilere.
İhlalin boyutunu belirlemek için adli bir soruşturma başlatıldığını doğruladı. Soruşturma kapsamında başka üç hükümet sisteminin de etkilenip etkilenmediğinin tespiti hedefleniyor.
Albanese, potansiyel olarak etkilenen sistemlerin Avustralya Sağlık ve Refah Enstitüsü, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu ile Victoria Sağlık Bakanlığı'nı içerdiğini söyledi.
