ChatGPT'nin Tehlikeleri: Harika Kişiselleştirme Aracı mı yoksa Harika Kimlik Avı Teknolojisi mi?

OpenAI'nin ChatGPT'si dünyayı kasıp kavurdu.

Halihazırda deneyen milyonlarca insanın dışında, e-posta servis sağlayıcıları (ESP'ler), son derece etkili e-posta konu satırları ve içeriği üretmek için kampanya verilerini kullanarak onu eğitiyor.

Salesforce kullanıcıları, ChatGPT'nin formülleri ve doğrulama kurallarını nasıl oluşturabileceğini keşfediyor. Ve Microsoft şimdi onu Bing arama motoruna dahil etti - bunun potansiyel bir "Google katili" olduğu şimdiden konuşuluyor!

Peki yeni teknoloji nasıl çalışıyor?

ChatGPT (Generative Pre-trained Transformer) , kullanıcılardan gelen istemlere veya sorulara yanıtlar oluşturmak için terabaytlarca web verisini (milyarlarcakelime içeren) işlemek için derin öğrenme tekniklerini kullanır.

Etkileşimler bir insanla konuşmak gibidir. Birçok kişi, ChatGPT'nin Turing testini geçen ilk yapay zeka uygulaması olduğunu söylüyor; bu, bir insana eşdeğer veya ondan ayırt edilemeyecek akıllı davranışlar sergilediği anlamına geliyor.

Bazı dikkat çekici kullanım durumlarını zaten gördük:

• Birleşik Krallık'taki Times gazetesi günlük başyazısını yazmak için ChatGPT'yi kullandı ve ardından okuyuculardan hangi içeriğin makine tarafından yazıldığını belirlemelerini istedi. Çoğu yapamadı!
• Çevrimiçi tebrik kartı satıcısı Moonpig , ChatGPT'yi sistemlerine entegre etmeyi düşünüyor . Müşteriler, doğru kelimeleri bulmak için kafalarını kaşımak zorunda kalmadan kişiselleştirilmiş bir mesaj veya şiir oluşturmasını isteyebilir.

ChatGPT, oyunun kurallarını değiştirebilecek yenilik ve üretkenliği mümkün kılarak web'in yaratılmasına rakip olur. Ancak her madalyonun iki yüzü vardır. Bu yeni teknolojinin potansiyel bir karanlık tarafı var mı?

ChatGPT'nin hem siber güvenlik saldırganları hem de savunucuları için nasıl yeni fırsatlar yaratabileceğine bakalım.

Daha iyi kimlik avı girişimleri

Araştırmacılar, siber suç forumlarında yapay zeka tarafından oluşturulan kodun yayınlandığını zaten görüyor . "Karanlık taraftan" ChatGPT kullanım durumlarından biri hedef odaklı kimlik avıdır; yani kasıtlı olarak belirli bireyleri, kuruluşları veya işletmeleri hedef alan e-posta dolandırıcılıklarıdır. Bu taktiği kullanan dolandırıcılar, kötü amaçlı amaçlarla verileri çalabilir veya hedeflenen bilgisayarlara kötü amaçlı yazılım yükleyebilir.

Tipik bir örnekte, bir şirketin personeli "CEO"larından bağlantılı bir belgeye katkıda bulunmaları veya bir eki okumaları için acil bir istek içeren bir e-posta alabilir. Tanıdık ad, normalde bekleyebilecekleri bir istekle birleştiğinde akla yatkınlığı ve yanıt verme olasılıklarını artırır.

Aslında, son Royal Mail fidye yazılımı saldırısının hedef odaklı bir kimlik avı e-postasıyla başlamış olması tamamen mümkündür .

ChatGPT aday gösterilen bir kişinin tarzında içerik üretebildiği için hedef odaklı kimlik avı e-postaları kısa sürededaha daikna edici hale gelecektir. Dolandırıcılar artık hedefin CEO'su gibi görünen içerik talep edebilir, bu da mesajı daha da gerçekçi hale getirir ve çalışanların buna kanma şansını en üst düzeye çıkarır.

Antisosyal mühendislik

ChatGPT ayrıca, özellikle güven tesis edilmesi gereken durumlarda, diğer kimliğe bürünme dolandırıcılık biçimlerini de geliştirebilir.

Dolandırıcılar, ChatGPT'yi kullanarak kendilerini banka çalışanları, polis memurları, vergi memurları (kurbanlara ödenmemiş bir faturaları olduğunu söyleyenler) veya hizmet sağlayıcı temsilcileri (kurbanların yönlendiricilerinin saldırıya uğradığını ve bilgisayarlarına uzaktan erişime ihtiyaç duyduklarını iddia edenler) olarak daha ikna edici kılabilirler. sorunu çözmek için).

Giderek yaygınlaşan bir örnek, "denizaşırı" olan arkadaşlardan veya aile üyelerinden gelen mesajları içerir. Genellikle cüzdanlarının ve telefonlarının çalındığını ve birisinin acil durum fonu istemek için onlara başka bir telefon ödünç verdiğini söylerler.

Orijinal içeriğin ölümü

Pek çok eğitimci, ChatGPT'nin öğrencilerin bir daha asla makale yazmak zorunda kalmayacakları anlamına gelmesinden son derece endişe duymaktadır.

Bazıları , yapay zeka tarafından oluşturulan makaleler göndererek ve güvenilir geçer notlar alarak (sınıfın birincisi olmamak şartıyla) bunu zaten test etti . Eğitimciler, yapay zekanın kitlesel kopya çekmeye yol açacağından ciddi şekilde endişeleniyor ve bazı okullar yanıt olarak şimdiden ev ödevlerinden uzaklaşıyor.

Gizlilik endişeleri

ChatGPT, Webb uzay teleskobu tarafından ilk olarak hangi gezegenin fotoğraflandığını bilebilir (HIP 65426 b idi). Ancak bu verilerin elde edilme şekli, Genel Veri Koruma Yönetmeliği (GDPR) ve Kaliforniya Tüketici Gizliliği Yasası (CCPA) gibi yeni ortaya çıkan gizlilik yasalarıyla çelişebilir .

Görüntü kazıma kullanılarak bir yüz tanıma veri tabanının oluşturulduğu Clearview AI davası , düzenleyicilerin Avrupa genelindeki bir kesitinden multi-milyon dolarlık para cezalarıyla sonuçlandı.

ChatGPT'nin çalışma şekli tamamen aynı değildir; daha çok, orijinal içeriklerin artık tanınmadığı, veriler için bir gıda karıştırıcısı gibidir. Ancak yine de bireylerin verilerinin bu şekilde kullanılmasınıisteyipistemedikleri sorusu olacaktır .

Telif hakkı ihlali daha olası bir senaryodur. Amerika Birleşik Devletleri'nde, yapay zeka sanat üreteci Stable Diffusion'ın geliştiricisi Stability AI aleyhine bir toplu dava açıldı. Savcılar, orijinal görüntü sahiplerinin haklarının ihlal edildiğini iddia etti.

İngiltere merkezli fotoğraf ve sanat kütüphanesi Getty Images, görüntülerini lisanssız kullandığı için Stable Diffusion'a da dava açacağını söylüyor.

GPT = Bugün Korunun

Bu senaryolar biraz kıyamet gibi gelse de, önlem olarak kullanılabilecek yerleşik en iyi uygulamalar vardır:

• Dikkat her zaman ilk savunma hattıdır. Bankalar ve polis memurları asla kart bilgilerini, PIN'leri veya internet bankacılığı şifrelerini istemez. Bu nedenle, benzer isteklere karşı son derece şüpheci olun.
• Bir e-posta alırken, yalnızca meşru bir gönderenin sahip olabileceği verileri kontrol edin. Bu nedenle bankalar genellikle mesajlarının bir parçası olarak posta kodlarını içerir. Temel kimlik doğrulama protokolü (DMARC) e-postanın doğrulanmış bir göndericiden geldiğini onayladığından, Mesaj Kimlik Doğrulaması (BIMI) için Marka Göstergelerinin kullanımı da burada önemli bir rol oynayacaktır.
• İş yerinde, kuruluşunuzun dışından gelen e-postaları vurgulamak için kurallar uygulayın. CEO'nuzdan geldiğini iddia eden ancak başında "Harici" olan bir e-posta, anında bir tehlike işareti olacaktır.

AI tarafından yazılan içerik nasıl belirlenir?

Yapay zeka tarafından yazılan içeriği belirlemeye yardımcı olmak için yeni taktiklerin ortaya çıktığını da görüyoruz. Örneğin, GPTZero gibi araçlar , öğretmenlerin ve öğretim görevlilerinin, öğrencilerinin makalelerinin makine tarafından yazılmış olup olmadığını belirlemelerine yardımcı olmak için geliştirildi.

Ek olarak, OpenAI'nin ChatGPT'den alınan metne bir filigran ekleyeceğine dair tahminler var.

Bireyler ayrıca üretken yapay zekanın kullanabileceği verileri nasıl korudukları konusunda daha yaratıcı hale gelecekler. Rock grubu Van Halen'in, konser gereksinimlerinin bir parçası olarak kahverengi kaseleri çıkarılmış M&M kaseleri talep etmesiyle ilgili ünlü bir hikaye vardır. Eleştirmenler onları şöhretin başlarına gelmesine izin vermekle suçladı. Daha sonra, şarkıcıları David Lee Roth bunun, etkinlik düzenleyicileriyle (önemli güvenlik gereksinimleri olan) sözleşmelerinin tamamen okunmasını sağlamak için olduğunu açıkladı.

İnsanların web'de kendileri hakkında yanlış "gerçekleri" tohumlamaya başlaması tamamen olasıdır (antispam satıcılarının bozulmamış spam tuzakları kurmasına benzer).

Örneğin bir blogda Avustralya'da büyüdüğümü belirtebilirim. (Aslında Güney Afrika'ydı.) Beni tanıyan herkes Avustralya referansının doğru olmadığını bilir ve daha sonra benimle ilgili içerikte kullanılırsa kırmızı bayrak olur!

AI hala iyilik için bir güçtür

Bu yazıda ana hatlarıyla belirttiğim endişelere rağmen, bu AI devriminin genel etkisi ezici bir çoğunlukla olumlu olacaktır.

Otomobil ve bilgisayar gibi diğer kritik icatlarla karşılaştırılabilir. İşler değişecek (yaşamlar da öyle), ancak özellikle yapay zeka geliştirme ve devreye almayla ilgili alanlarda yenileri ortaya çıkacak. Belki de en önemlisi verimlilik artacak.

Üretken yapay zekanın pazarlama dünyasına nasıl hizmet edeceğine dair tahminlerimizi duymak ister misiniz? Bu fırsatları derinlemesine incelediğimiz son State of Email Live web seminerimize göz atın .

Ve sorulmamış sorunuza yanıt olarak, hayır, bu makaleyi yazmak için ChatGPT'yi kullanmadım!