"Öncü Yapay Zeka Modelleri için Güvenli ve Emniyetli İnovasyon Yasası" olarak bilinen düzenlemeyi, Kaliforniya Senatosu Bill 1047, güçlü yapay zeka modellerinin kamuya açıklanmadan önce güvenlik testleri yapmasını gerektirecek ve geliştiricileri modellerinin neden olduğu ciddi zararlardan sorumlu tutacak.
Tasarının Kaliforniya Valisi Gavin Newsom'un masasına ulaşması için hafta sonuna kadar eyalet yasama meclisinden geçmesi gerekiyor.
Büyük teknoloji firmaları, yapay zeka girişimleri ve araştırmacılar, mevzuatın hızla gelişen teknolojide inovasyonu engelleyip engellemeyeceği ya da çok ihtiyaç duyulan korkulukları yerleştirip yerleştirmeyeceği konusunda bölünmüş durumda.
Teknoloji kralı Elon Musk, Pazartesi günü SB 1047'yi destekleyerek bunun “zor bir karar” olduğunu söyledi ve kararının “bazı insanları üzebileceğini” kabul etti.
Tesla ve SpaceX CEO'su, X platformu üzerinden paylaştığı mesajda “Her şey düşünüldüğünde, Kaliforniya'nın muhtemelen SB 1047 Al güvenlik tasarısını geçirmesi gerektiğini düşünüyorum” diye yazdı. “20 yılı aşkın bir süredir, halk için potansiyel bir risk olan herhangi bir teknolojiyi düzenlediğimiz gibi, YZ düzenlemesinin savunucusuyum” diye yazdı.
Eski Meclis Başkanı Nancy Pelosi ve diğer bazı Kaliforniya milletvekilleri SB 1047'ye karşı çıktılar. Pelosi bu ayın başlarında yaptığı bir açıklamada, Kongre'deki “pek çok kişinin mevzuatı iyi niyetli ancak kötü bilgilendirilmiş” olarak gördüğünü söyledi.
Pelosi ayrıca “Yapay zeka Kaliforniya'dan doğar. Ulusumuz ve dünya için örnek teşkil edecek bir yasaya sahip olmalıyız. Büyük teknolojinin değil, küçük girişimcilerin ve akademinin egemen olmasını sağlama fırsatımız ve sorumluluğumuz var” diye ekledi.
Demokrat Parti milletvekilleri, Al risklerini anlama ve azaltma yöntemlerinin “henüz emekleme aşamasında” olduğunu savunarak, Ulusal Standartlar ve Teknoloji Enstitüsü'nün (NIST) şirketlerin izlemesi gereken kılavuzu henüz yayınlamadığını ve tasarının hesaplama eşiklerinin yürürlüğe girdiğinde “neredeyse kesinlikle eskimiş olacağını” belirttiler.
Ayrıca, dezenformasyon ya da derin sahtecilik gibi gerçek dünya riskleri ve zararları yerine “aşırı yanlış kullanım senaryoları ve varsayımsal varoluşsal risklere” çok fazla odaklandığı için mevzuatı eleştirdiler. Yaptıkları ortak yazılı açıklamada “Kısacası, bu mevzuatın kamu için açık bir faydası ya da sağlam bir kanıt temeli olmaksızın Kaliforniya'nın inovasyon ekonomisi üzerinde yaratabileceği etki konusunda çok endişeliyiz. Yüksek teknoloji inovasyonu Kaliforniya'nın refahını sağlayan ekonomik motordur” ifadelerine yer verildi.
Yasayı sunan Kaliforniya Eyalet Senatörü Scott Wiener ise yasanın küçük girişimleri değil, yalnızca en büyük yapay zeka geliştiricilerini etkileyeceğini ve zaten tamamlamaya söz verdikleri güvenlik testlerini yapmalarını gerektirdiğini savundu.
Wiener, Pelosi'ye cevaben yaptığı açıklamada “Emerita Speaker'a büyük saygı duymakla birlikte, açıklamasına saygıyla ve kesinlikle katılmıyorum. Teknoloji şirketleri güvenlik testleri yapacaklarına dair söz verdikten sonra bu güvenlik testlerinin gözetiminden kaçındıklarında, kendi kendini düzenlemenin insanlık için ne kadar iyi sonuç vereceği konusunda insan düşünmeden edemiyor” dedi.
Wiener ayrıca yasa koyucuların sektörün endişelerine yanıt olarak tasarıda değişiklik yaptıklarını, Kaliforniya başsavcısının gerçek bir zarar meydana gelmeden önce geliştiricilere dava açma yetkisini sınırlandırdıklarını ve ince ayarlı açık kaynak modelleri için bir eşik oluşturduklarını vurguladı.
Değişiklikler uyarınca, 10 milyon dolardan daha az bir maliyetle ince ayarı yapılan açık kaynaklı modeller mevzuat kapsamına girmeyecek.
Mozilla'da politika analisti olan Joel Burke, The Hill'e yaptığı açıklamada, “Eğer bir model geliştiricisiyseniz ve açık kaynaklı bir proje üzerinde çalışıyorsanız, başlangıçta bir modeli eğitmek için ne kadar hesaplama kullanıldığını bilmeniz gerekmez, çünkü bu orijinal modeli değiştiren üçüncü veya dördüncü kişi olabilirsiniz. Bu açık kaynağın bir parçasıdır, bu nedenle bir taban dahil etmeleri harika” açıklamasında bulundu.
Mozilla, EleutherAI ve Hugging Face Ağustos ayı başında Wiener'e bir mektup göndererek SB 1047'nin açık kaynak topluluğu üzerindeki potansiyel etkisine ilişkin endişelerini dile getirdi. Burke, mevzuatla ilgili endişelerinin tamamının değişikliklerde ele alınmadığını belirtti.
Geri bildirimleriyle bazı değişikliklerin yapılmasını sağlayan Anthropic de Perşembe günü yaptığı açıklamada benzer şekilde mevzuatın son halinin “bizim önerdiğimiz versiyon ile orijinal tasarı arasında bir yerde” olduğunu belirtti.
Anthropic CEO'su Dario Amodei Newsom'a yazdığı mektupta, “Değerlendirmemize göre yeni SB 1047, faydalarının maliyetlerinden daha ağır basacağına inandığımız noktaya kadar önemli ölçüde geliştirildi. Ancak bundan emin değiliz ve tasarının bize hala endişe verici ya da muğlak görünen bazı yönleri var” diye konuştu.
OpenAI geçen hafta tasarıya karşı çıktı. ChatGPT üreticisi, SB 1047'ye karşı çıkan Google ve Meta gibi teknoloji devlerine katıldı.
OpenAI'nin baş strateji sorumlusu Jason Kwon, Wiener'e yazdığı bir mektupta, öncü YZ modellerine ilişkin düzenlemenin federal hükümetten gelmesi gerektiğini savundu ve tasarının “inovasyonu engelleyebileceği ve ABD Al ekosistemine zarar verebileceği” uyarısında bulundu.
SB 1047 bu alandaki önemli isimleri de ikiye böldü. “Al'nin vaftiz annesi” olarak bilinen Fei-Fei Li, bu ayın başlarında Fortune'a yazdığı bir yazıda ‘iyi niyetli’ mevzuatın tüm ülke için istenmeyen sonuçlar doğuracağını savundu.
Li, “SB-1047 yasalaştığı takdirde, gelişmekte olan YZ ekosistemimize, özellikle de günümüzün teknoloji devleri karşısında zaten dezavantajlı durumda olan kamu sektörü, akademi ve ‘küçük teknoloji’ gibi kısımlarına zarar verecektir. Öncü bir kuruluş olan ve ülkemizin en sağlam YZ ekosistemine ev sahipliği yapan Altın Eyalet, YZ hareketinin kalbinin attığı yerdir; Kaliforniya ilerledikçe ülkenin geri kalanı da ilerleyecektir” ifadelerine yer verdi.
“Al'nin vaftiz babası” olarak anılan Yoshua Bengio ise Fortune'da Li'ye cevap verdi. Bengio bu yazısınd “Kâra öncelik vermeye yönelik teşvikler bu kadar büyükken şirketlerin güvenliğe öncelik vermesini umamayız. Dr. Li gibi ben de federal düzeyde sağlam YZ güvenlik düzenlemeleri görmeyi tercih ederdim. Ancak Kongre tıkanmış durumda ve federal kurumlar kısıtlı, bu da eyalet eylemini vazgeçilmez kılıyor. Geçmişte Kaliforniya yeşil enerji ve tüketici gizliliği konularında öncülük etti ve YZ konusunda da öncülük etmek için muazzam bir fırsata sahip” diye yazdı.
