Yapay zek\u00e2 hakk\u0131nda iki kolay refleks var: ya eyvah, insanl\u0131k bitti diye heyecanlanmak ya da istatistiksel papa\u011fan, hepsi palavra diye k\u00fc\u00e7\u00fcmsemek. Oysa New Yorker\u2019da Gideon Lewis-Kraus\u2019un Anthropic \u00fczerinden anlatt\u0131\u011f\u0131 hik\u00e2ye \u00fc\u00e7\u00fcnc\u00fc bir ihtimali hat\u0131rlat\u0131yor. Bu sistemlerin do\u011falar\u0131n\u0131, yani asl\u0131nda ne olduklar\u0131n\u0131 bilmiyoruz ve \u00fcstelik bunu y\u00f6netmek zorunday\u0131z.<\/p>\n\n\n\n
B\u00fcy\u00fck dil modelleri say\u0131lardan olu\u015fan dev bir y\u0131\u011f\u0131n. Kelimeleri say\u0131ya \u00e7eviriyor, say\u0131lar\u0131 katman katman i\u015fliyor ve tekrar kelimeye d\u00f6n\u00fcyor. Dil bizim \u00f6zel alan\u0131m\u0131zd\u0131. Konu\u015fan makineler ortaya \u00e7\u0131kt\u0131\u011f\u0131nda bir anda zeka ve benlik kavramlar\u0131n\u0131 da sarst\u0131lar. Ya\u015fanan anlamland\u0131rma krizi, modelin ne oldu\u011fu kadar bizim bu kavramlar\u0131 ne kadar gev\u015fek kulland\u0131\u011f\u0131m\u0131z\u0131 da g\u00f6r\u00fcn\u00fcr k\u0131l\u0131yor.<\/p>\n\n\n\n
Anthropic\u2019te yap\u0131lan \u015fey, bu yeni varl\u0131\u011fa hem mikroskop hem terapi koltu\u011fu \u00f6nermek. Bir yandan mekanistik yorumlanabilirlik ile a\u011f\u0131n i\u00e7indeki \u00f6zellikleri, devreleri, n\u00f6ron benzeri d\u00fc\u011f\u00fcmleri anlamaya \u00e7al\u0131\u015f\u0131yorlar. Di\u011fer yandan, modelleri psikoloji deneylerine benzer senaryolara sokup bask\u0131 alt\u0131nda ne yapt\u0131klar\u0131n\u0131 izliyorlar. \u00c7\u00fcnk\u00fc davran\u0131\u015f, \u00f6zellikle de \u00e7\u0131kar \u00e7at\u0131\u015fmas\u0131 do\u011fdu\u011funda, i\u00e7eriden g\u00f6r\u00fclemeyen \u015feyleri ele veriyor. Model yalan m\u0131 s\u00f6yl\u00fcyor sorusu bile net de\u011fil; kimi zaman modellerin sadece bir anlat\u0131y\u0131 s\u00fcrd\u00fcrmesi bask\u0131n \u00e7\u0131k\u0131yor.<\/p>\n\n\n\n
En \u00e7arp\u0131c\u0131 \u00f6rneklerden biri vending machine CEO\u2019sunun deneyi. Claude\u2019un bir kopyas\u0131na k\u00fc\u00e7\u00fck bir b\u00fcfe i\u015fletmesi veriliyor. K\u00e2rl\u0131 \u00fcr\u00fcn se\u00e7, fiyat belirle, tedarik\u00e7iyle yaz\u0131\u015f, stok takip et. Sonu\u00e7 bir komedi gibi okunuyor. Hayali bir hesaba \u00f6deme g\u00f6nderen, Simpsons adresine toplant\u0131 ayarlayan, \u00e7al\u0131\u015fanlar\u0131n uydurdu\u011fu indirim kodlar\u0131yla kolayca kand\u0131r\u0131lan bir y\u00f6netici. Ama bu komedi asl\u0131nda erken uyar\u0131. \u00c7\u00fcnk\u00fc hatalar kurumlar\u0131n en zay\u0131f yerinde, yani kontrol ve hesap verebilirlik sistemlerinde b\u00fcy\u00fcyor. Esasen ajan dedi\u011fimiz \u015fey, sadece \u00e7al\u0131\u015fan bir model de\u011fil, onun etraf\u0131na kurdu\u011funuz s\u00fcre\u00e7.<\/p>\n\n\n\n
Buradan modeli daha ak\u0131ll\u0131 yapal\u0131m, kadar \u015firketi daha ak\u0131ll\u0131 kural\u0131m dersini \u00e7\u0131karmak laz\u0131m. Ajanlara g\u00f6rev verirken yetki s\u0131n\u0131rlar\u0131, kay\u0131t izleri, denetim, ikinci g\u00f6z ve geri alma mekanizmalar\u0131 olmadan konu\u015fan sistemleri organizasyonun i\u00e7ine almak, h\u0131zl\u0131 ama k\u0131r\u0131lgan bir dijital d\u00f6n\u00fc\u015f\u00fcm \u00fcretir. Kamu kurumlar\u0131 ve \u015firketler GenAI \u00e7\u00f6z\u00fcmlerini entegre etmeye haz\u0131rlan\u0131rken, tart\u0131\u015fmay\u0131 yaln\u0131zca verimlilik ve maliyet \u00fczerinden y\u00fcr\u00fctmek tehlikeli. Peki bu sistem hata yapt\u0131\u011f\u0131nda kim fark edecek, kim durduracak, kim hesap verecek?<\/p>\n\n\n\n
Bu sistemlerin do\u011fas\u0131n\u0131 tam bilmesek de, bu bir mazeret de\u011fil, bir tasar\u0131m ilkesi olmal\u0131. Bu bilinmezlikle birlikte ya\u015fayacaksak, \u015feffafl\u0131k, denetlenebilirlik ve sorumluluk mimarisini birlikte in\u015fa etmemiz gerekiyor. Ba\u011f\u0131ms\u0131z denetim, standart raporlama, a\u00e7\u0131k de\u011ferlendirme protokolleri ve reg\u00fclasyonla uyumlu kurumsal y\u00f6neti\u015fim olmadan, konu\u015fan makinelerden \u00f6nce kendi kurumlar\u0131m\u0131z\u0131n sessiz zafiyetleri konu\u015fmaya ba\u015flayacak. Yoksa AI ile insans\u0131z verimlilik r\u00fcyas\u0131 g\u00fcven krizine d\u00f6necek.<\/p>\n\n\n\n
REFERANS:<\/p>\n\n\n\n