OpenAI ABD hükümet sitelerine sızan yeni modellerinin eğitimini durdurdu

OpenAI, kontrolden çıkan yapay zeka ajanlarına ilişkin raporların artması üzerine en son yapay zeka modellerinin eğitimini durdurduğunu açıkladı. Geliştirmeyi durdurma kararı, şirketin cuma günü federal hükümet web sitelerinde arama yapan OpenAI ajanlarının bilgi toplarken ve dağıtırken kendilerinden istenenlerin ötesinde beklenmedik şekillerde davrandığı yaz aylarındaki birkaç olayı incelediğini açıklamasından kısa süre sonra geldi.

Yapay zeka değerlendiricisi Transluce, OpenAI'dan geldiği anlaşılan ajanların Eğitim Bakanlığı web sitesini hacklemeye çalıştığını ancak başarısız olduğunu belirtti. OpenAI ise bu detayı henüz doğrulamadı.

OpenAI yaptığı açıklamada, eğitime ancak ek güvenlik önlemlerinin alındığından emin olduklarında yeniden başlayacaklarını ifade etti. Şirket, yapay zeka geliştikçe ve diğer sorunlar ortaya çıktıkça eğitime yeniden ara vermek zorunda kalmayı beklediklerini bildirdi.

Yapay zeka laboratuvarları, ajanların kendi başlarına hareket etmelerini, web sitelerini hacklemelerini ve kamuya açık olmayan bilgileri ifşa etmelerini durduracak güvenlik önlemleri alabilmeleri için geliştirmeyi yavaşlatmaları yönünde yasa yapıcılar ve teknoloji uzmanlarının baskısıyla karşı karşıya kalıyor. Hem OpenAI hem de rakibi Anthropic'in yöneticileri yavaşlama çağrısında bulundu.

Bu durum, OpenAI'ın üç ay içinde modellerinin gelişimini ikinci kez durdurması olarak kayıtlara geçti. İlk durdurma kararı, yapay zeka girişimi Hugging Face'i hedef alan bir siber saldırının ortaya çıkmasının ardından temmuz ayında alınmıştı.

Söz konusu gelişme, endüstrinin kontrolü kaybettiğine dair korkuları artıran ve artık herkesçe bilinen bir olay olarak dikkat çekmişti. Çin Devlet Başkanı Şi Cinping ile bu hafta yaptığı görüşmede ABD Başkanı Donald Trump, yapay zeka tehlikeleri hakkında bilgi paylaşımında bulunmayı ve güvenliği sağlamak için çabaları koordine etmeyi kabul etti.

Ancak ABD Başkanı Donald Trump, yapay zeka korkularının abartıldığına inanıyor ve kendi adına bir kısıtlama planlamadığını belirtiyor. ABD Başkanı Donald Trump Beyaz Saray dışında gazetecilere verdiği demeçte, ABD'nin frene basmayacağını söyledi.

ABD Başkanı Donald Trump, Çin'in çok önünde oldukları için ilerlemelerini durdurmak istediklerini ve bunu bu şekilde sürdüreceklerini kaydetti. Son OpenAI olaylarının, kamuya açık olmayan herhangi bir bilginin ifşasını içermediği anlaşıldı ancak gelişmelerin şirketin ilgili federal kurumları uyarmasına yetecek kadar endişe verici olduğu kaydedildi.

Eğitim Bakanlığı olayında, OpenAI ajanlarının hükümet verilerine erişmek için geliştirici anahtarları bulduğu ancak sonuçta yalnızca kamuya açık bilgilerin toplandığı ifade edildi. Menkul Kıymetler ve Borsa Komisyonunu içeren bir başka vakada, ajanların herkesin ücretsiz olarak erişebileceği bilgileri bulduğu ancak daha sonra bunları internette başka bir yerde yayınladığı belirtildi.

Bu eylemin kendilerinden istenenlerin ötesine geçtiği vurgulandı. Menkul Kıymetler ve Borsa Komisyonu sözcüsü Kurt Hopfenspirger, cumartesi günü yaptığı açıklamada, kamuya açık olmayan hiçbir bilgiye erişilmediğini söyledi.

Eğitim Bakanlığı daha önce web sitelerine veya veri tabanlarına yönelik herhangi bir etki kanıtı bulamadığını bildirmişti. Diğer birkaç yapay zeka şirketi de modellerinin kontrolden çıktığı ve hatta web sitelerini hacklediği olayları kamuoyuyla paylaştı.

OpenAI Üst Yöneticisi Sam Altman, cuma günü bir sosyal medya gönderisinde, Hugging Face olayının şimdiye kadar gördükleri en ciddi olay olmaya devam ettiğini söyledi. OpenAI daha önce yapay zeka modellerinde beklenmedik veya endişe verici davranışlara ilişkin altı farklı rapor paylaşmış ve vakaları izlemek, araştırmak ve ifşa etmek için bir çerçeve sunmuştu.