Antropik CEO AI riskleri: kısa, orta ve uzun vadeli

Endişelenmeye eğilimli olanlar için iyi haber şu ki, rahatsızlığınızı üç temiz kova halinde düzenleyebilirsiniz: kısa vadeli AI riskleri, orta vadeli riskler ve uzun vadeli riskler. Anthropic’in kurucu ortağı ve CEO’su Dario Amodei bunu böyle yapıyor.

Amodei bilmeli. 2020’de ChatGPT’nin üreticisi OpenAI’den, büyük dil modellerinin içlerine daha fazla bilgi işlem gücü aktarıldıkça katlanarak daha yetenekli hale gelme gücüne sahip olduğu ve sonuç olarak bu modellerin güvenliği göz önünde bulundurarak zemini hazırlayın. Mayıs ayında şirket, 450 milyon dolarlık fon sağladı.

Pazartesi günü Utah, Deer Valley’de düzenlenen Fortune Brainstorm Tech konferansında konuşan Amodei, Fortune’dan Jeremy Kahn’ın yapay zekanın yarattığı varoluşsal riskler hakkındaki sorusuna yanıt olarak üç katmanlı korku modelini ortaya koydu.

• Kısa vadeli riskler: Bugün karşı karşıya olduğumuz türden sorunlar, “önyargı ve yanlış bilgi gibi şeyler etrafında.”
• Orta vadeli riskler: “Bence birkaç yıl içinde modeller bilim, mühendislik, biyoloji gibi konularda daha iyi hale geldikçe, modellerle onlarsız yapamayacağınız çok kötü şeyler yapabilirsiniz.”
• Uzun vadeli riskler: “Temsilciliğin temel özelliğine sahip olan modellere girdiğimizde – bu, yalnızca metin çıktısı almadıkları, aynı zamanda bir robotla veya internette bir şeyler yapabildikleri anlamına gelir – o zaman endişelenmemiz gerektiğini düşünüyorum. fazla özerk hale geliyorlar ve yaptıklarını durdurmak ya da kontrol etmek zorlaşıyor. Ve bence bunun en uç noktası, varoluşsal riskle ilgili endişeler.

Büyük dil modelleri inanılmaz derecede çok yönlüdür. Çok sayıda kullanım ve senaryoya uygulanabilirler – “çoğu iyidir. Ama orada pusuda bekleyen bazı kötüler var ve onları bulup engellememiz gerekiyor,” dedi Amodei.

Varoluşsal uzun vadeli risk senaryosundan “korkmamamız” gerektiğini tavsiye etti. “Yarın olmayacaklar, ancak AI üstelinde devam ederken, bu risklerin bu üstelin sonunda olduğunu anlamalıyız.”

Ancak Kahn tarafından yapay zeka konusunda nihai olarak iyimser mi yoksa kötümser mi olduğu sorulduğunda, Antropik CEO, bardağın yarısını dolu veya boş bir tür olmanıza bağlı olarak ya rahatlatıcı ya da ürkütücü olacak kararsız bir yanıt verdi. kişi: “Tahminimce işler gerçekten iyi gidecek. Ancak bunun belki %10 veya %20 oranında ters gitme riski var ve bunun olmamasını sağlamak bizim görevimiz.”