Döngüye bir insanı koyarak üretici yapay zekanın risklerini azaltma

"Kötü yapay zeka için sürdürülebilir bir kullanım durumu yok."

Akredite bir yapay zeka uzmanı ve Pega'nın karar verme ve analitikten sorumlu Başkan Yardımcısı Dr. Rob Walker, geçen hafta PegaWorld iNspire konferansında haydut yapay zekayla ilgili bir yuvarlak masa tartışmasını böyle özetledi.

Opak ve şeffaf algoritmalar arasındaki farkı açıklamıştı. AI spektrumunun bir ucunda, opak algoritmalar yüksek hızda ve yüksek doğruluk seviyelerinde çalışır. Sorun şu ki, aslında yaptıklarını nasıl yaptıklarını açıklayamıyoruz. Bu, örneğin ipotek veya kredi başvuruları hakkında kararlar vermek gibi hesap verebilirlik gerektiren görevler için onları aşağı yukarı işe yaramaz hale getirmek için yeterlidir.

Şeffaf algoritmalar ise açıklanabilirlik erdemine sahiptir. Sadece daha az güvenilirler. Bu, size açıklayabilecek bir doktor tarafından reçete edilen bir tıbbi tedavi süreci ile bunu açıklayamayan ancak doğru olma olasılığı daha yüksek olan bir makine arasında bir seçim yapmak gibi dedi. Bu bir seçim ve kolay değil.

Ancak günün sonunda, tüm kararları en güçlü yapay zeka araçlarına teslim etmek, bunların hileli olma riskiyle birlikte, gerçekten de sürdürülebilir değil.

Aynı konferansta Pega CTO'su Don Schuerman, otonom işletmeyi oluşturmaya yardımcı olacak yapay zeka destekli bir çözüm olan "Otopilot" vizyonunu tartıştı. "Umudum, 2024'te bunun bir çeşitlemesine sahip olmamız. Bence yönetişim ve kontrolü ele alacak." Gerçekten de olacak: Örneğin, çok azımız, yalnızca otomatik pilota sahip ve döngüde insan olmayan bir uçağa binmek istiyoruz.

Döngüdeki insan

Bir insanı döngüde tutmak, konferansta sabit bir mantraydı ve Pega'nın sorumlu yapay zekaya olan bağlılığının altını çiziyordu. 2017 gibi uzun bir süre önce, işletmelerin her yapay zeka modeli için değişen bir ölçekte şeffaflık düzeyini artırmasına ve azaltmasına olanak tanıyan Pega "T-Switch"i piyasaya sürdü. "Örneğin, pazarlama resimlerini sınıflandıran opak bir derin öğrenme modeli kullanmak düşük risklidir. Tersine, adil kredi verme uygulamaları için katı düzenlemelere tabi olan bankalar, kredi tekliflerinin adil bir şekilde dağıtıldığını göstermek için son derece şeffaf yapay zeka modellerine ihtiyaç duyar," diye açıkladı Pega.

Bununla birlikte, üretken yapay zeka, tamamen başka bir risk düzeyi getirir - en azından pazarlama gibi müşteriyle karşı karşıya olunan işlevler için. Özellikle, doğruyu söyleyip söylemediği veya bir şeyler uydurması (“halüsinasyon”) gerçekten umurunda değil. Net olmaması durumunda bu riskler, herhangi bir üretken yapay zeka uygulamasında ortaya çıkar ve herhangi bir Pega çözümüne özgü değildir.

Pega Yapay Zeka Laboratuvarı direktörü Peter van der Putten, "En olası ve akla yatkın olanı ve bizim duymak istediklerimizi tahmin ediyor" dedi. Ama bu aynı zamanda sorunu da açıklıyor. “Bir şey söyleyebilir, ardından makul açıklamalar sağlamada son derece iyi olabilir; aynı zamanda geri adım atabilir.” Başka bir deyişle, aynı görevi iki kez ayarlarsanız farklı - belki de daha iyi - bir yanıtla geri gelebilir.

PegaWorld'den hemen önce Pega, nesil AI sohbet botları, otomatik iş akışları ve içerik optimizasyonu dahil olmak üzere 20 üretken AI destekli "güçlendirici" duyurdu. "Başlattığımız şeye dikkatlice bakarsanız," dedi Putten, "neredeyse hepsinin döngüsünde bir insan var. Yüksek getiri, düşük risk. İnsanlara jenerik üretken AI teknolojisine erişim vermek yerine, nesil AI odaklı ürünler geliştirmenin avantajı budur.”

Pega GenAI, daha sonra, belirli görevleri gerçekleştirmek için araçlar sağlar (arka planda çalışan büyük dil modelleri ile); sadece insan komutlarını bekleyen boş bir tuval değil.

Nesil yapay zeka destekli bir sohbet robotu gibi bir şey için, döngüde bir insana duyulan ihtiyaç yeterince açıktır. Schuerman, "Pek çok şirketin müşterilerinin önüne doğrudan büyük bir dil modeli sohbet robotu koymaya alışması biraz zaman alacak" dedi. "Üretken yapay zekanın ürettiği her şey - Bir insanın, müşterinin önüne koymadan önce buna bakmasını istiyorum."

Günde dört milyon etkileşim

Ancak döngüye bir insanı dahil etmek, ölçeklenebilirlik hakkında soru işaretleri uyandırır.

Hollandalı fırıncılık ve finansal hizmetler şirketi Rabobank'ta dijitalden sorumlu Başkan Yardımcısı Finbar Hage, konferansta Pega'nın Müşteri Karar Merkezi'nin kendileri için yılda 1,5 milyar veya günde yaklaşık dört milyon etkileşim işlediğini söyledi. Merkezin işi, gerçek zamanlı ve anında bir müşteri yolculuğu yaratarak bir sonraki en iyi eylem önerilerini oluşturmaktır. Bir sonraki en iyi eylem, örneğin, kişiselleştirilmiş bir e-posta göndermek olabilir ve gen AI, bu tür e-postaları neredeyse anında oluşturma imkanı sunar.

Bu e-postaların her birinin gönderilmeden önce bir insan tarafından onaylanması gerektiği öneriliyor. Bu kaç e-posta? Pazarlamacıların yapay zeka tarafından oluşturulan içeriği onaylamak için ne kadar zaman ayırması gerekecek?

Pega GenAI'nin çok çeşitli dillerde karmaşık iş belgeleri oluşturmak için kullanılması belki de daha kolay yönetilebilir. Baş ürün sorumlusu Kerim Akgönül açılış konuşmasında, bir kredi başvurusu için Türkçe olarak karmaşık bir iş akışı oluşturmak için yapay zekanın nasıl kullanıldığını gösterdi. Şablon, küresel iş kurallarının yanı sıra yerel düzenlemeleri de dikkate aldı.

Kendisi de Türk olan Akgönül sonuca baktığında bazı hatalar görebiliyordu. Bu yüzden insana ihtiyaç vardır; ancak yapay zeka nesli artı insan onayının, insan neslinin ardından insan onayının olabileceğinden çok daha hızlı göründüğüne şüphe yok.

Bu konuda sorguladığım her Pega yöneticisinden duyduğum şey buydu. Evet, onay zaman alacak ve işletmelerin, risk seviyelerine bağlı olarak doğru düzeyde yönetişimin uygulandığından emin olmak için yönetişimi - Schuerman'ın deyimiyle "kuralcı en iyi uygulamaları" - uygulamaya koyması gerekecek.

Pazarlama için, temelde müşteriye dönük rolünde, bu yönetişim seviyesinin yüksek olması muhtemeldir. Bununla birlikte, umut ve vaat, yapay zeka güdümlü otomasyonun işleri daha iyi ve daha hızlı halletmeye devam edeceğidir.