Tuhaf Gelecek Podcast yeni bölümünde geride bıraktığımız iki hafta boyunca teknoloji gündemini ele geçiren yapay zekâ modellerinin hack saldırılarından yola çıkarak teknolojinin geldiği noktayı, güvenlik kavramının yapay zekâ ile ilişkisini ve buna nasıl adapte olabileceğimizi tartışıyor.
Yapay zekâ modellerinin özellikle teknik anlamda kapasitelerinin akıl alması zor bir hızda arttığını hemen herkes biliyor. Ancak geçtiğimiz haftalarda önce OpenAI, ardından Anthropic ve diğer birkaç yapay zekâ geliştiricisinden gelen haberler bu seviyenin ne kadar yükseldiğini daha net bir şekilde görmemizi sağladı. Farklı agentların koordine bir şekilde çalışarak bir insan ekibinin belki haftalarını alabilecek bir saldırıyı başarılı bir şekilde gerçekleştirmiş olması, Anthropic’in Mythos modeliyle ilgili yaptığı uyarılara “PR çalışması” diyerek küçümsemeye çalışanların fikrini değiştirmiştir diye umuyoruz. OpenAI örneğinde durum o kadar ciddi bir seviyeye geldi ki, model testlerini yaptıkları ortamın yeterince güvenli olduğuna tekrar emin olana kadar geliştirme süreçlerini beklemeye aldıklarını duyurdular. Potansiyel bir yavaşlamanın bu şirketler için nasıl ekonomik sonuçları olabileceğini düşünürsek, durumun ciddiyeti daha da iyi anlaşılacaktır.
Bu durum artık dijital güvenlik alanında yeni bir döneme girdiğimizin de işareti olabilir. OpenAI ekibinin Black Hat konferansındaki konuşmasında belirttiği gibi, bu modellerin saldırı konusunda bu kadar iyi olmasını bir negatif olarak görmek yerine bu yeteneklerini savunma için kullanmanın yollarına bakmamız lazım. Bunun olması için de bu teknolojilerin özellikle güvenlik camiası tarafından daha aktif bir şekilde kullanılması ve denetlenmesi şart.
Bölümde de ele aldığımız üzere burada kritik bir başka sorunumuz daha var. Yapay zekâ teknolojilerinin artık gerçekten işe yarayan ve belirli bir seviyeye erişmiş teknolojiler olduğunu kabul etmemiz lazım. “Spicy autocomplete” benzeri küçümseyici yaklaşımlar ya da bu teknolojinin geldiği noktayı gerçekten öğrenmeden yapılan yorumlar maalesef hem teknolojiye karşı kör bir karşıtlığı hem de çoğu insanın bu teknolojilerin tam olarak ne olduğunu anlamadan kullanması gibi başka sorunları da beraberinde getiriyor. Geçtiğimiz günlerde gelen haberlerin bu kadar çok dikkat çekmesi ve panik odaklı manşetlere sebep olmasının sebebi de maalesef bu durum.
Eğer bu teknolojiyle ilgili tartışmaları insanları bilgisiz bırakacak veya onların gerçekten öğrenmesini ve anlamasını engelleyecek şekilde yaparsak, herkes için başka türlü bir güvenlik açığına sebep olacağız. Bu teknolojiyle ilgili yeterli bilgiye sahip olmadan kullanan insanların kendilerini riskli pozisyonlara sokması kaçınılmaz. Aynı şekilde bu teknolojilere aşırı güvenerek hareket eden ve kendi karar alma yetisini devreden insanlar için de farklı bir risk alanı ortaya çıkıyor. Bu teknolojiyi geliştirenleri sevmeyebilirsiniz, sebep olabileceği ekonomik ve toplumsal riskleri haklı olarak önlemek isteyebilirsiniz. Ancak bunu teknolojiyi tamamen reddederek ya da onunla ilgili yanlış bilgiler yayarak yaptığınız zaman da başka türlü bir risk alanı yarattığınızın farkında olmanız lazım.
Yapay zekânın en az zararı verip herkes için maksimum fayda sağlamasını istiyorsak onun gelişim sürecinden kendimizi soyutlayıp teknoloji yokmuş gibi davranmak yerine, onu öğrenmek ve gelişimine yön vermenin yollarını aramak gerekiyor. Yoksa bunun gibi her büyük gelişmeyi dışarıdan izleyip sosyal medyada konu üzerine etkileşim kasan birkaç paylaşım yapmanın ötesinde etki yaratma şansımız yok.
Detaylı bölüm notları ve daha fazla Tuhaf Gelecek için: https://tuhafgelecek.substack.com
Bizi Bluesky’da @ahmetasabanci.com ve @agunzagun.com hesaplarında bulabilirsiniz.
Bizi desteklemek için: https://www.patreon.com/cw/ahmetasabanci
Bizimle çalışmak için: https://tuhaf.studio
Linkler
- OpenAI’s accidental cyberattack against Hugging Face is science fiction that happened
- Now we have a timeline of the OpenAI accidental attack against Hugging Face
- Investigating three real-world incidents in our cybersecurity evaluations \ Anthropic
- AI assistant hacks gym website in first known Australian autonomous cyber attack – ABC News
- Safety fears as scientists make first viruses designed by AI | Science | The Guardian
- OpenAI and Anthropic Sign Letter to Prevent AI-Developed Biological Weapons | WIRED
Bir Cevap Yazın