T24 Dış Haberler
Turing isimli teknoloji şirketinin CTO’su (Baş Teknoloji Yöneticisi) Ece Kamar, son dönemde yapay zekâ yaratıcısı büyük şirketlerin teknolojiyi yavaşlatma çağrılarıyla ilgili olarak konuşurken yapay zekâ gelişiminin yarattığı üç önemli riskten söz etti. Yapay zekâ sistemlerinin hızla geliştiğini, bu gelişimin akademiye ve üniversitelere açık şekilde olmayıp kapalı laboratuvarlarda olduğunu ve Amerikan ekonomisinin artık büyük ölçüde bu şirketlerin yapay zekâdan kâr edebilmesine bağlı olduğunu hatırlatan Kamar, dedi.
Turing CTO’su Kamar, T24 yazarı Cansu Çamlıbel‘in moderatörlüğünde T24 Yıllık Konferansı’nın kapanış sunumunu gerçekleştirdi.
“Üniversite dönemimdeki tersine göç bana araştırmanın ne olduğunu öğretti”
Kamar, teknoloji ve yapay zekâ sektöründeki yolculuğuna Sabancı Üniversitesi’nde başladığına ve o dönemde yaşanan tersine göçün araştırma konusunda kendisine birçok şey kattığını anlattı. Kamar, kendi kariyer yolculuğuyla ilgili olarak şunları söyledi:
“Benim yolculuğum, Amerika’daki teknoloji şirketlerinde çalışan çoğu arkadaşım gibi doktora ile başladı. Benim üniversiteye giriş yılım, Türkiye’deki çok iyi özel üniversitelerin çıkışıyla aynı zamana denk geldi. O dönemde geri beyin göçünün yaşandığı bir zamandı, 2000’lerin başları. Üniversitede, Amerika’da ya da dünyanın başka yerlerindeki Türk akademiklerin geri döndükleri, kurucu profesörler olarak çok önemli yatırımlar yaptılar. Çok önemli şeylerden bir tanesi, dünyada gerçekten isim yapmış profesörlerimizin beni ve arkadaşlarımı çok önemli araştırmalara dâhil etmesi oldu. Araştırma yapmanın ne kadar önemli olduğunu aslında Türkiye’deki araştırma sistemi içerisinde öğrendim. Harvard’da bir doktora programına gittim; dünyadaki çok önemli kadın araştırmacılardan biriyle çalışma fırsatım oldu. Yapay zeka ajanları ve ajanların insanlarıyla birlikte çalışması prensipleri üzerineydi.
16 sene Microsoft’ta kaldım. Son 4 senede laboratuvarımla beraber küçük yapay zeka modelleriyle verimli bir şekilde yapay zekanın uygulanması, ajanlar, ajan grupları, medyada çok fazla yer alan ajan gruplarının nasıl daha iyi işlevselleneceği ve riskleri konusunda çalışmalarım oldu. 2 milyar dolar değerindeki teknoloji şirketinin (Turing) teknoloji kısmının başına geçtim.”
“Yapay zekâ ajanlarının kullanımı, kontrolün bizden onlara kaydığını gösteriyor”
Çamlıbel’in insanların yapay zekâ geliştikçe karar alma süreçlerine daha az dâhil olduğu bir durumda ne yaşayacağına ilişkin sorusuna yanıt veren Kamar, “Jeneratif yapay zeka sistemleri ilk önce hayatımıza chatbot dediğimiz sistemler halinde girdi. Bu sistemlerden alabildiğimiz etki, aslında limitliydi. Çünkü bizim sorularımıza cevap verebilmesine rağmen bu sistemler dünyada kendi kendilerine hareket edebilen sistemler değildi,” diyerek bu alanda yaşanan değişimi “Ajanların bu kadar popüler konu olmasının nedeni jeneratif AI sistemlerinin son 2 senede dünyada bizim komutlarımızla beraber gidip hareket edebilen, butona basabilen, bilgi toplayabilen sistemler haline gelmesi. Bu sistemlerle yapılabilecek şeyin limitinin çok yükselmesi,” şeklinde açıkladı.
“Bir yapay zeka sisteminin nasıl geliştiğini takip etmek istiyorsanız yapay zekada programlamanın nasıl geliştiğine bakmak çok önemli çünkü bu bize gelecekle ilgili haber veriyor,” diyen Kamar, şöyle devam etti:
“2022 yılında Microsot GitHub sistemini çıkardığı zaman, yapay zeka sistemlerinin yaptığı şey siz programlama yaparken sizin bir sonraki kelimenizi tahmin edip onu söyleyen bir sistemdi. İnsan kontroldeydi, ne yazılması gerektiğini düşünüyordu; sistem sadece tamamlayıcıydı. Şu anda bunun tamamen değiştiğini görüyoruz. Şu anda ajanlarla beraber dünyanın her yerinde en iyi teknoloji şirketlerinde programlama yapan insanlar artık satır satır kod yazmıyorlar. Yine yapılması gereken projeyi üst seviyede düşünüp, spesifikleşip ajanlara ‘git yaz’ diyor.
Bu sistemlerin özellikleri arttıkça biz onlara bir görev verdiğimizde artık bu görevi adım adım belirtmek yerine ‘böyle bir amacım var, çocuğumu şu kursa yazdırmak istiyorum benim için kayıt yaptır’ dediğimiz, sadece amacı belirlediğimiz bir durum var. Birinciye dönersek yapay zeka sistemlerinin otonom davranışı arttıkça aslında kontrolümüz azalıyor. Biz, “benim için git bunu yap” diyoruz ama bunu nasıl yapması gerektiğini, hangi araçları kullanıp ne kadar para harcaması gerektiği bilgisini vermiyoruz. Burada kontrolün bizden ajanlara kaydığını görüyoruz.
Bunların hepsi insanların değişen sistemlerdeki rolü konusunda çok açık araştırma problemlerini ortaya çıkarıyor.”
“Benim hayatımı adadığım problemler, yapay zeka tarafından kısa sürede çözülebiliyorsa…”
Yapay zekâ modellerinin eğitilmesi ve geliştirilmesiyle insanın beyin fonksiyonlarını eskisi gibi kullanamama riskinden söz ederek bir ‘birikim feragatından’ bahsedip bahsedemeyeceğimizi soran Çamlıbel’e yanıt veren Kamar, “2022 yılında GPT-4’un ilk versiyonu bizim elimize geldiğinde birkaç ay boyunca birkaç araştırmacı arkadaşımla beraber bir binanın bir odasında her cuma günü kapanıp bu modeli inceledik. Şu anda dünyada birçok farklı sektör bizim o yaşadığımız 2022’de yaşadığımız süreci yaşamaya başladı,” diyerek şöyle devam etti:
“Toplumun en iyi şekilde eğitilmiş, hayatını belirli alanlara adamış en zekilerin, en gelişmişlerin yaptığı özellikleri artık yapay zekada görmek bizim artık hayattaki amacımızı sorgulatıyor. Artık bu ajanları kullanarak programlaama yapan insanların yavaş yavaş programlama yapma becerilerinde düşüşler başladı. Bu, hem bundan sonra bilgisayar biliminin nereye gideceğiyle ilgili hem de bu insanların rollerinin nereye gideceğiyle ilgili sorular ortaya çıkarıyor. Benim hayatımı adadığım problemler, yapay zeka tarafından kısa sürede çözülebiliyorsa benim rolüm artık yapay zekadan öğrencilere bu çözümü anlatmak mı?”
Yapay zekânın gelişimindeki üç önemli risk
Yapay zekâ ve teknoloji şirketleri liderlerinin teknolojinin geliştirilmesinin yavaşlatılması çağrılarını da değerlendiren Kamar, yapay zekâ gelişimi konusundaki üç önemli sorunu şöyle özetledi:
“Yapay zeka sistemleri hızlı bir şekilde gelişiyor. Şu anda bu hızlı gelişimle beraber hiçbir insan bu sistemlerin tamamen mükemmel şekilde nasıl kontrol edilebileceğini bilmiyor. Bu bir teknoloji probleminin üzerinde zaman ve yatırım gerekiyor. Şu anda hem yapay zeka sistemlerindeki güvenlik açıkları hem de hızlı gelişimi ve toplum üzerindeki etkisi nedeniyle akademik dünyanın, hükümetlerin, kar amacı gütmeyen kuruluşların beraber bir araya gelmesi gerektiği bir dönemden geçiyoruz. Teknolojilerin nasıl geliştiği akademik olarak da açık konuşulmuyor. Akademik dünyadan ve dünyanın geri kalanından kapalı şekilde geliştiriliyor. O nedenle tam olarak Anthropic’in elinde ne var, bilmeden fikir sahibi olmaya çalışıyoruz. Amerika bazında konuşursak üç teknoloji şirketi ve geri kalan şirketler bu alana o kadar büyük bir finansal yatırım yaptılar ki şu anda Amerika’daki ekonomik yapının ayakta kalmasını sağlayacak şey bu şirketlerin başarılı olması. Eğer bu şirketler yapay zekadan para kazanamazlarsa bu etki Amerikan ekonomisini bir darboğaza sürükleyebilecek bir seviyeye ulaştı.”
Kamar, yavaşlatma çağrılarıyla ilgili olarak şöyle konuştu:
“Yavaşlama çağrılarına geldiğimizde aslında akademik dünyada yapay zekanın yavaşlatılması, bu güvenlik konusundaki araştırmaların hızlandırılması konusunda farklı hükümet alanları çağrılarda bulundular. O dönemde bunlar karşılık bulmadı. Çok olumlu düşünmek istersek teknoloji şirketlerinin çok güzel amaçlarla yavaşlatma çağrısı yaptığını söyleyebiliriz.
Ben bir araştırmacı olarak bu alandaki akademik dünya ve üniversitelerle atılması gerektiğini düşünüyorum. Sadece yavaşlama yeterli değil, çalışma düzeni değişmeli. Bu olmadığı sürece bu alandaki her tartışmaya şüpheci yaklaşıyorum.”
(Editör: Buse Söğütlü)
