Anthropic'ten halka arz başvurusunda uyarı: Yapay zeka varoluşsal risk yaratabilir

Yaygın olarak kullanılan sohbet robotu Claude'u geliştiren Anthropic, ABD'de gerçekleştirmeyi hedeflediği büyük halka arzın ayrıntılarını paylaşırken, yapay zekanın "insanlık için felaket niteliğinde veya varoluşsal riskler oluşturabileceği" konusunda uyarı yaptı. Şirketin piyasa değerinin, yaz döneminde yaklaşık 1,8 trilyon dolarlık başlangıç değerlemesiyle tarihin en büyük halka arzını gerçekleştiren SpaceX'in üzerine çıkacağı öngörülüyor.

Anthropic, satışa sunulacak hisse adedi, fiyat aralığı ve halka arzın yapılacağı tarih hakkında henüz bilgi vermedi. Claude sohbet botunu geliştiren şirket, yılın ilk altı aylık döneminde gelirinin 16,3 milyar dolara ulaştığını, buna karşın zararlarının 80,7 milyar doların üzerine çıktığını açıkladı. Nasdaq'ta ANT işlem kodunu kullanacağını bildiren Anthropic, bütünüyle yapay zekaya odaklanan şirketler arasında halka açılan ilk kuruluş olacak; dolayısıyla bu süreç, teknolojinin geleceği bakımından bir sınama işlevi görecek.

İNSANLIĞA YÖNELİK VAROLUŞSAL TEHLİKE UYARISI

Anthropic, halka arzdan önce sunduğu başvuruda, yapay zeka sistemlerinin insanlık açısından ciddi risk yarattığı yönündeki kaygıların siyasetçiler, düzenleyici kuruluşlar, araştırmacılar ve kendi bünyesindeki kişilerce ifade edildiğini aktardı. Şirket, ileri düzey yapay zeka sistemlerinin "uygun güvenlik önlemleri, denetim ve koruma mekanizmaları olmadan geliştirilmesi, kullanıma sunulması ve işletilmesi halinde, özellikle bu sistemlerin kötüye kullanılması, kopyalanması, silah haline getirilmesi ya da yüksek düzeyde özerklikle çalışmasına izin verilmesi durumunda, insanlık için felaket niteliğinde veya varoluşsal riskler oluşturabileceğini" bildirdi.

Üst yönetici Dario Amodei, kız kardeşi Daniela Amodei ve beş kişinin beş yıl önce kurduğu Anthropic, halka açılma hedefini Haziran ayında kamuoyuna duyurdu. Şirketin başlıca rakibi OpenAI da bunun hemen ardından benzer yönde bir adım attı. OpenAI'ın hazırlıkları hakkında bilgi sahibi olan bir kişinin verdiği bilgiye göre, şirketin halka arzının önümüzdeki yılın başlarında yapılması öngörülüyor.

Söz konusu duyuruları izleyen dönemde, bu şirketlerin yarı özerk çalışacak biçimde tasarladığı yapay zeka ajanlarının yer aldığı siber güvenlik ihlalleri ile diğer teknolojik sorunlar arttı. İki şirketin hem halen görev yapan hem de eski çalışanları, insanlığı yapay zeka araçlarının ileride yol açabileceği muhtemel zararlardan koruyacak yeterli kapasite sağlanmadan yapay zeka teknolojisinin geliştirildiği yönünde uyarılar yaptı.

OLASI TEHLİKELER VE FAYDALAR

Anthropic'in pazartesi günü borsaya açılma hazırlıklarını duyurduğu sırada, Elvis Presley'nin müzik eserleri üzerinde hak sahibi olanlar da yapay zeka şirketine karşı dava açarak, Claude'un eğitimi sırasında rock'n'roll yıldızının yüzlerce şarkısından yararlanıldığını iddia etti. Anthropic, sunduğu yeni belgelerde yapay zekayı insanların yararına olacak biçimde geliştirmeye ilişkin daha önce verdiği taahhütleri tekrar dile getirirken, yatırımcılara muhtemel tehlikeler hakkında da uyarılarda bulundu.

Mali bildirimlerinde yılın ilk altı ayındaki zararlarının gelirlerinden fazla olduğunu ayrıntılarıyla gösteren şirket, buna rağmen ilk bakışta "sorumsuzca büyük" olarak değerlendirilebilecek geleceğe yönelik yatırımlara girişeceğini ifade etti. Teknoloji şirketi, yaklaşımını "Genel olarak cesur ama sağduyulu olmayı ve başarılı yatırımlardan oluşan geçmişimizle güven kazanmayı hedefleyeceğiz" sözleriyle anlattı.

Başarısının önemli ölçüde en ileri yapay zeka modellerini geliştirebilmesine dayandığını vurgulayan Anthropic, "Bunu başaramamamız işimizi olumsuz etkileyebilir" açıklamasını yaptı. Anthropic, yaklaşık 90 sayfa tutan risk faktörleri bölümünde, yapay zekayı güvenli ve rekabetçi şekilde geliştirebilme gücünü tehdit edebilecek unsurları tek tek aktardı.

Şirket; bulut bilişim hizmeti sunan kuruluşlara, zaten yoğun talep altında bulunan Tayvanlı çip üreticilerine ve ağırlıklı olarak ABD'de yer alan veri merkezlerine büyük oranda bağımlı olduğuna dikkat çekti. Çocukların ya da intihar riski altındaki kişilerin yapay zeka kullanmasına yönelik kaygılara da değinen şirket, "yapay zeka modelleriyle bağlantılı zararlardan kaynaklanan düzenleyici müdahale" tehlikesiyle karşı karşıya olduğunu ve sistemlerinin eylemleri nedeniyle nerede, nasıl sorumlu tutulacağı konusunda belirsizlikler bulunduğunu ifade etti.

Öte yandan Anthropic, başvurusunda teknolojinin sağlayabileceği yararları da olumlu sözlerle ele alarak, yapay zekanın çok sayıda farklı alanda "insan faaliyetlerinin her alanında devrim yaratma kapasitesine sahip milyonlarca sanal ajanı" hayata geçirebileceği tahminini paylaştı. Şirket, bu konudaki görüşünü "Yapay zekanın insanlık tarihindeki en önemli teknolojilerden biri olduğuna inanıyoruz" ifadesiyle aktardı.

Anthropic, yapay zekanın biyoloji ve tıp alanlarındaki gelişmelerin hızını "köklü biçimde artıracağını" da belirterek, kanser ve Alzheimer'ın da aralarında olduğu çeşitli hastalıklar için tedaviler bulunmasına katkıda bulunabileceğini dile getirdi. Şirket ayrıca, yapay zekanın verimlilik artışı yoluyla "ekonomik büyümede sürekli bir hızlanma" yaratabileceğini kaydetti.

YAPAY ZEKANIN GELİŞİMİNDE KRİTİK BİR EŞİK

Yatırım yönetimi alanında faaliyet gösteren Raymond James Investment'ın baş piyasa stratejisti Matt Orton, yatırımcıların Anthropic'in finansal tablolarında hızlı büyümenin yanında hızla artan zararlarla da karşılaşmayı beklediklerini belirterek, pazartesi günü ortaya çıkan tablonun bu yüzden şaşırtıcı olmadığını ifade etti.

Orton, BBC'ye verdiği demeçte, "Bu başvurudaki ayrıntıların ortaya çıkması piyasalara daha fazla görünürlük sağlayacaktır çünkü gelir artışının nereden geldiğini bilmemiz gerekiyor" değerlendirmesinde bulundu. Andersen Capital Management'ın kurucusu Peter Andersen de Reuters'a konuşarak, Anthropic'in halka açılma hazırlıklarını "yapay zekanın gelişiminde önemli bir dönüm noktası" sözleriyle tanımladı.

Andersen ayrıca, şirketin borsadaki başlangıç performansının, yatırımcıların yapay zeka geliştirme faaliyetlerine kaynak aktarmayı sürdürme eğilimlerinin "oldukça iyi bir göstergesi" niteliği taşıyacağını belirtti.