Yapay Zekanın Doğru Rolünü Bulmak

Bu Yıl Gördüğüm En Dürüst Yapay Zeka Slaytı

Son birkaç yıldır yapay zeka dünyasında aynı söylemlerle karşılaşıyoruz. Yapay zekanın şirketleri yöneteceği, çalışanların yerini ajanların alacağı ve tamamen otonom organizasyonların çok yakın olduğu anlatılıyor. Bu söylemler yatırımcıları heyecanlandırdı, teknoloji üreticilerini harekete geçirdi ve medyada geniş yankı buldu. Ancak bugün geldiğimiz noktada tablo çok daha dengeli ve çok daha gerçekçi.

Birkaç hafta önce Anthropic'in düzenlediği bir etkinliğe katıldım. Sunumlar etkileyiciydi, teknoloji güçlüydü ve yapay zekanın geleceğine dair birçok yeni fikir paylaşıldı. Fakat günün sonunda aklımda kalan şey yeni bir model ya da etkileyici bir demo olmadı. Oldukça sade görünen tek bir slayttı.

Belki de bu yüzden bu kadar etkileyiciydi. Çünkü son üç yıldır yaşadığımız yapay zeka heyecanının ardından şirketlerin yavaş yavaş fark etmeye başladığı bir gerçeği sessizce özetliyordu: Her işi yapay zekaya devretmemeliyiz ve bazı işleri hiçbir koşulda devretmemeliyiz.

Daha da dikkat çekici olan ise bu mesajın artık dünyanın en gelişmiş yapay zeka modellerini geliştiren şirketlerden geliyor olması. Uzun zamandır sorduğumuz soru, "Yapay zeka bunu yapabilir mi?" idi. Oysa bugün sormamız gereken çok daha önemli bir soru var: "Yapay zeka bunu yapmalı mı?"

Aslında bazı alanlarda cevap oldukça net. E-posta taslakları oluşturmak, dokümanları özetlemek, farklı kaynaklardan bilgi toplamak, veriyi düzenlemek veya ilk aşama araştırmaları yürütmek gibi görevler yapay zekanın bugün bile son derece başarılı olduğu alanlar. Çünkü bu işler kusursuz muhakemeden çok hız ve verimlilik gerektiriyor. Yapay zekanın en hızlı değer ürettiği yer de tam olarak burası.

Ancak iş müşteri iletişimlerine, şirket dışına çıkan raporlara, finansal verilere veya çok adımlı iş süreçlerine geldiğinde durum değişiyor. Yapay zeka bu süreçlerde önemli katkılar sağlayabilir, fakat ortaya çıkan çıktının mutlaka insan kontrolünden geçmesi gerekir. Çünkü büyük dil modelleri deterministik sistemler değildir. Doğru cevabı garanti etmezler, en olası cevabı üretirler. Bir kararın etkisi büyüdükçe, insan değerlendirmesinin ve denetiminin önemi de aynı ölçüde artar.

Bunun bir adım ötesinde ise yapay zekaya devredilmemesi gereken kararlar bulunuyor. Nihai fiyatlandırma kararları, sözleşmeler, hukuki değerlendirmeler, işe alım ve işten ayrılma süreçleri ya da finansal tabloların onaylanması gibi konuların ortak bir özelliği var: Hepsi hesap verebilirlik gerektiriyor.

Bir sözleşmenin altına bir insan imza atar. Finansal verilerin doğruluğunu bir insan onaylar. Bir çalışanın işe alınmasına veya işten ayrılmasına bir insan karar verir. Çünkü sorumluluk devredilebilir bir yetkinlik değildir ve en azından öngörülebilir gelecekte bir dil modeline emanet edilemez.

Bu slaytın asıl önemi de burada ortaya çıkıyor. Yapay zeka çağının en büyük problemi artık daha akıllı modeller geliştirmek değil. Asıl mesele, bu modellerin nerede kullanılacağına ve nerede kullanılmaması gerektiğine karar verebilmek.

Önümüzdeki dönemde yapay zekadan en fazla değeri üreten şirketler, en büyük modeli kullananlar veya en fazla sayıda ajan geliştirenler olmayacak. Başarılı olanlar, yapay zekanın hangi süreçlerin sahibi olması gerektiğini, hangi çıktılarda insan denetiminin zorunlu olduğunu ve hangi kararların hiçbir koşulda insanın elinden çıkmaması gerektiğini net şekilde tanımlayabilen şirketler olacak.

Bu aslında bir yapay zeka stratejisinden çok daha fazlası. Bu, doğrudan bir iş stratejisi.

Uzun zamandır müşterilerimizle de tam olarak bunu konuşuyoruz. Yapay zeka iş süreçlerinin yerine geçmemeli, onları güçlendirmeli. İşinizi yapay zekaya göre yeniden tasarlamak yerine, yapay zekayı işinizin gerçek ihtiyaçlarına göre konumlandırmalısınız. Yapay zeka tekrarlayan işleri ortadan kaldırabilir, içgörüler üretebilir, öneriler sunabilir ve karar alma süreçlerini hızlandırabilir.

Ancak ikna edici bir cevap ile hesap verebilir bir karar arasındaki farkı asla gözden kaçırmamalıyız. Çünkü bunlar aynı şey değildir.

Bugün yapay zeka sektörünün daha olgun bir döneme girdiğini görüyoruz. Artık daha az demo, daha az benchmark sonucu ve daha az abartılı vaat konuşuyoruz. Buna karşılık ölçülebilir iş sonuçları, yönetişim, risk yönetimi ve insan ile yapay zeka arasındaki doğru iş bölümü çok daha fazla gündeme geliyor.

Bu son derece sağlıklı bir dönüşüm. Çünkü gerçek iş değeri hiçbir zaman "Yapay zeka ne yapabilir?" sorusunda yatmadı. Asıl değer, çok daha zor olan şu soruda saklı:

Bu işin içinde yapay zekanın doğru rolü ne olmalı?

Benim için "From AI Hype to Business Reality" tam olarak bunu ifade ediyor.