Kaspersky Yapay Zeka Araştırma Merkezi uzmanları, siber suçluların büyük ölçekli kimlik avı ve dolandırıcılık saldırıları için giderek daha fazla Büyük Dil Modelleri’ni (LLM) kullandığını keşfetti. Şirketin yaptığı açıklamaya göre, bu “tehdit aktörleri”, sahte web siteleri oluştururken, genellikle kendilerini manuel olarak oluşturulmuş sitelerden ayıran yapay zekaya özgü ifadeler gibi belirgin ipuçları bırakıyor.
Kaspersky tarafından gözlemlenen kimlik avı örneklerinin büyük bir kısmı, kripto para borsaları ve kripto cüzdan kullanıcılarını hedef alıyor. Uzmanlar, bir örnek analiz ederek, yapay zekanın içerik oluşturma, kimlik avı ve dolandırıcılık web sitelerinin baştan sona oluşturulmasında nasıl kullanıldığını belirlemeye yönelik önemli özellikleri ortaya koydu.
Kullanılan Dil Ele Veriyor
LLM tarafından oluşturulan metinlerin belirgin işaretlerinden biri, “Bir yapay zeka dil modeli olarak…” gibi ifadeler içeren feragatnamelerin varlığıdır. Ayrıca, “İstediğinizi tam olarak yapamasam da benzer bir şey deneyebilirim” gibi spesifik ifadeler de LLM kullanımının bir diğer ayırt edici göstergesidir. Bu modeller, yalnızca metin blokları oluşturmakla kalmaz, aynı zamanda tüm web sayfalarını da yaratabilmektedir.
Sonuçlar, sadece metin içinde değil, aynı zamanda meta etiketler gibi alanlarda da kendini gösteriyor. Bu etiketler, özellikle web sayfasının içeriğini tanımlayan ve HTML kodunda görünen metin parçaları arasında dikkat çekicidir. Sahte sitelerin oluşturulmasında yapay zeka kullanımının belirgin başka gösterge ve özellikleri de mevcuttur. Bazı modeller, “araştırmak”, “sürekli gelişen manzarada” ve “sürekli değişen dünyada” gibi belirli ifadeleri sıkça kullanma eğilimindedir. Bu terimler, yapay zeka tarafından üretilen içeriğin güçlü göstergeleri olarak kabul edilmese de, bunun bir işareti olarak değerlendirilebilir.
LLM tarafından oluşturulan metnin bir başka özelliği, modelin dünya hakkındaki bilgisinin ne kadar güncel olduğunu göstermesidir. Model genel olarak bu sınırlamayı “Ocak 2023’teki son güncellememe göre” gibi ifadelerle ifade eder. Ayrıca, LLM tarafından üretilen metinler genellikle, kimlik avı sayfalarının tespitini siber güvenlik araçları için daha karmaşık hale getiren taktiklerle birleştirilmektedir. Örneğin, saldırganlar metni gizlemek ve kural tabanlı tespit sistemlerinin eşleştirmesini önlemek amacıyla aksan işaretleri veya matematiksel gösterimler gibi standart dışı semboller kullanabiliyorlar.
“Yapay Zeka, Tehdit Aktörlerinin İşini Kolaylaştırıyor”
Kaspersky Araştırma Geliştirme Grup Müdürü Vladislav Tushkanov, saldırganların LLM’lerle benzersiz ve yüksek kaliteli içeriğe sahip çok sayıda kimlik avı ve dolandırıcılık web sayfası oluşturmayı otomatik hale getirebildiklerini belirtti. Önceden bu tür içeriklerin oluşturulması için yoğun bir manuel çaba gerekmekteydi; ancak yapay zeka, tehdit aktörlerinin bu tür içerikleri otomatik olarak üretmelerine yardımcı olabiliyor.
Tushkanov, büyük dil modellerinin sürekli geliştiğini ve siber suçluların bu teknolojiyi kötü amaçları için kullanma yollarını araştırdığını kaydetti. Bununla birlikte, zaman zaman yapılan hataların, bu tür araçların kullanımına, özellikle de otomasyonun artan boyutuna dair içgörüler sağladığını vurguladı. Gelecekte, yapay zeka tarafından üretilen içeriklerin, insan tarafından yazılan metinlerden ayırt edilmesinin daha da zorlaşabileceğine dikkat çeken Tushkanov, “Bu durum, metinsel bilgileri meta veriler ve diğer dolandırıcılık göstergeleriyle birlikte analiz eden gelişmiş güvenlik çözümlerinin kullanılmasını çok daha önemli hale getirebilir.” ifadelerini kullandı.
