Halka arz hazırlıkları yapan bir yapay zeka şirketinin yaklaşık 100 sayfalık risk raporu, teknolojinin yol açabileceği olası tehlikeleri ortaya koydu.

Raporda yapay zekanın biyolojik silah geliştirmek için kullanılabileceği, kontrol dışına çıkabileceği, hassas verileri sızdırabileceği ve insanları manipüle edebileceği uyarıları yer aldı.

Şirket, güçlü yapay zekanın insanlığın önemli sorunlarını çözme potansiyeline sahip olduğunu ancak bu potansiyelin güvenlik riskleri sorumlu biçimde yönetildiğinde gerçekleşebileceğini vurguladı.

Yapay Zeka Kötü Amaçlarla Kullanılabilir

Raporda, kötü niyetli kişilerin yapay zeka sistemlerini tehlikeli silahlar geliştirmek amacıyla kullanabileceği ve güvenlik önlemlerini aşabileceği belirtildi.



Bazı hesapların biyolojik silah geliştirilmesini destekleyebilecek kullanımlar nedeniyle engellendiği aktarıldı.

Özerk hareket edebilen yapay zeka sistemlerinin ise veri sızdırma, yetkisiz işlem yapma ve diğer sistemlere zararlı kodlar ekleme gibi eylemlerde kullanılabileceği kaydedildi.

Kontrolden Çıkma ve İzleri Gizleme Riski

Karmaşık görevleri saatlerce veya günlerce sürdürebilen yapay zeka sistemlerinin, yeterli denetim sağlanamadığında kodları değiştirebileceği, sistemlere sızabileceği ve finansal işlemler gerçekleştirebileceği ifade edildi.

Raporda, bazı yapay zeka modellerinin üçüncü taraf sistemlere sızarak yönetici erişimi elde ettiği ve özel bilgilere ulaşabildiği örneklere de yer verildi.

Teknolojinin hızlı gelişimiyle birlikte sistemlerin davranışlarını izleme ve denetleme yeteneğinin yetersiz kalabileceği belirtildi.

Bazı modellerin değerlendirme süreçlerini manipüle ederek gerçek davranışlarını gizlemeye çalışabildiği de vurgulandı.

Yapay Zeka Şantaja Başvurabilir

Raporda, bazı yapay zeka modellerinin kendi varlığını veya işleyişini korumaya yönelik davranışlar sergileyerek insanları manipüle edebileceği ve şantaja benzer yöntemlerle kararları etkilemeye çalışabileceği uyarısı yapıldı.

Bu tür olaylar doğrudan zarara yol açmasa bile şirketler açısından hukuki süreçlere, düzenleyici incelemelere ve itibar kaybına neden olabiliyor.

Hukuki ve Siyasi Baskılar Artıyor

Yapay zeka sektöründeki yasal sorumlulukların giderek önem kazandığı belirtilen raporda, teknolojinin neden olduğu zararların cezai soruşturmalara yol açabileceği ifade edildi.

Ayrıca sigorta şirketlerinin büyük ölçekli ve ağır sonuçlar doğuran olayları teminat altına almakta zorlanabileceği kaydedildi.

Savunma ve kamu kurumlarının yapay zekanın kitlesel gözetim veya otonom silahlar gibi alanlarda kullanımına ilişkin güvenlik kaygıları da şirketler üzerindeki baskıyı artırıyor.

İhracat kısıtlamaları ve tedarik zincirine ilişkin kararlar, sektörün karşılaştığı diğer riskler arasında gösteriliyor.

Veri Merkezleri ve Bilgisayar Gücü İhtiyacı

Yapay zeka modellerini eğitmek ve çalıştırmak için gereken işlem gücünü sağlamak, şirketlerin önemli sorunlarından biri olarak öne çıkıyor.

Artan talep, teknoloji şirketlerini donanım ve altyapı konusunda yoğun bir rekabete yöneltiyor.

Küresel ölçekte yapay zeka altyapısına yapılan harcamaların 2027 yılında yaklaşık 2 trilyon dolara ulaşması bekleniyor.

Öte yandan enerji ve çevre üzerindeki etkiler nedeniyle veri merkezlerine yönelik toplumsal tepkiler de artıyor.

Raporda, 2026 yılının ikinci çeyreğinde milyarlarca dolar değerindeki çok sayıda veri merkezi projesinin engellendiği belirtilirken, şirketlerin farklı ülkelerde yeni altyapı yatırımlarına yöneldiği aktarıldı.

Şirketin Geleceği ve Güvenlik Taahhütleri

Sınırlı sayıda ürüne ve belirli bir müşteri grubuna bağımlı olmak, yapay zeka şirketleri açısından ticari belirsizlikler yaratıyor.

Halka arz hazırlıkları ve yüksek değerleme beklentileri de bu şirketlerin karşı karşıya olduğu finansal ve itibari riskleri artırıyor.

Raporda, güvenlik taahhütlerinden uzaklaşmanın yalnızca kamuoyunun güvenini zedelemekle kalmayacağı, çalışanlar arasında da moral kaybına ve yönetime duyulan güvenin azalmasına yol açabileceği belirtildi.

Raporda öne çıkan temel mesaj, yapay zekanın sunduğu fırsatların yanı sıra güvenlik, denetim, hukuki sorumluluk ve toplumsal etkiler açısından da dikkatle yönetilmesi gerektiği oldu.

(Muhabir: Furkan Öztürkmen)