Anthropic, model eğiten araştırmacıyı kısıtladı

Anthropic Claude engeli iddiası: Hong Kong'lu doktora öğrencisi, model eğitimi için Claude'u otomasyonda kullanınca kısıtlandığını söyledi. Hong Kong Bilim ve Teknoloji Üniversitesi'nde doktora öğrencisi olan Jiahao Shao, Anthropic Claude engeli yüzünden mağdur olduğunu söyledi.

Shao, başka bir yapay zekâ modelinin eğitim verilerini hazırlarken Claude'u otomasyon için kullandığını anlattı. Ancak Shao'ya göre Anthropic'in güvenlik sistemi bu işlemi rakip model hazırlığı olarak değerlendirdi.

Shao, Anthropic Claude engeli iddiasını X'te paylaştı. Ayrıca gönderi 277 binden fazla görüntülenme aldı.

Böylece olay kısa sürede geniş bir kitleye ulaştı. Araştırmacıya göre eğitim örnekleri güçlü bir açık modelle üretildi.

Claude ise süreci otomatikleştirmek için kullanıldı. Çünkü görevleri gönderiyor ve gelen sonuçları analiz ediyordu.

Böyle bir düzende dil modeli veriyi kendisi üretmek zorunda değil. Ayrıca diğer araçları koordine edip çıktıları değerlendirebilir.

Yine de Shao'ya göre kısıtlamaya yol açan şey tam olarak bu otomasyon oldu.

Gelişmenin Detayları

Bu nedenle olay, otomasyonun sınırları hakkında soru işaretleri doğurdu. Shao, Opus 5.5 modelinden zorla Opus 5'e geçirildiğini söyledi.

Ayrıca etkin oturumlarının kapandığını belirtti. Üstelik iki ince ayar yöntemiyle ilgili iş akışlarını başlatmaya çalışınca da engellendiğini ifade etti.

Her iki yöntem de yapay zekâyı belirli görevlere uyarlarken kullanılıyor. Dolayısıyla engel, doğrudan model geliştirme çalışmalarına denk geldi.

Öte yandan Shao, yaşadığı sorunu açıkça kamuoyuyla paylaşmayı tercih etti. Shao, Anthropic CEO'su Dario Amodei'ye de seslendi.

Şirketin çifte standart uyguladığını savundu. Ona göre yapay zekâ laboratuvarları kendi modelleri için büyük veri yığınlarından yararlanıyor.

Buna karşın ücret ödeyen kullanıcılar araştırma otomasyonunda kısaltılabiliyor. Anthropic Claude engeli, geliştiriciler için önemli bir sınırı gündeme getiriyor.

API'nin kabul edilebilir kullanımı nerede bitiyor, rakip sistem geliştirme girişimi nerede başlıyor?

Örneğin deney otomasyonu, sentetik veri üretimi ve sonuç değerlendirme normal araştırmanın parçası olabilir. Ancak benzer araçlar alternatif model geliştirmek için de kullanılabilir.

Bu nedenle platform kuralları bağımsız ekiplerin hareket alanını doğrudan etkiliyor. Anthropic olayı anlatıldığı sırada kamuya açık bir yorum yapmadı.

Şirket açıklama yapmadığı için kısıtlamayı hangi eylemlerin tetiklediği belli değil. Ayrıca kararın rakip model eğitimiyle doğrudan ilgili olup olmadığı da bilinmiyor.

Şimdilik Anthropic Claude engeli hakkında anlatılanlar yalnızca araştırmacının kendi beyanına dayanıyor. Bu gelişme hakkında sen ne düşünüyorsun?

Hesabın varsa giriş yap, adınla yorum yaz. Yorumlar yapay zekâ destekli ön elemeden geçer; son karar moderatördedir.

Topluluk kuralları