Lakera, LLM Zafiyetlerinden Kuruluşları Korumak İçin 20 Milyon Dolar Topladı

Generatif yapay zeka uygulamalarını kötü niyetli yönlendirmeler ve diğer tehditlerden korumak için teknoloji geliştiren İsviçre merkezli startup Lakera, Avrupa girişim sermayesi firması Atomico'nun öncülüğünde gerçekleştirilen Seri A turunda 20 milyon dolar topladı.

Generatif yapay zeka, ChatGPT gibi popüler uygulamalar tarafından yönlendirilen ve büyüyen yapay zeka hareketinin göz bebeği olarak öne çıkmıştır. Ancak, güvenlik ve veri gizliliği konularındaki sorunlar nedeniyle kurumsal ortamlarda endişe kaynağı olmaya devam etmektedir.

Bağlam için, büyük dil modelleri (LLM'ler) generatif yapay zekanın motorlarıdır ve makinelerin insanlar gibi metin anlamasını ve üretmesini sağlar. Ancak, bu tür bir uygulamanın bir şiir yazmasını veya bir yasal sözleşmeyi özetlemesini istemeniz fark etmeksizin, çıktısını yönlendirecek talimatlara ihtiyaç duyar. Ancak bu "yönlendirmeler", uygulamayı eğitmek için kullanılan gizli verileri açıklamak veya özel sistemlere yetkisiz erişim sağlamak gibi istenmeyen şeyler yapmaya kandıracak şekilde oluşturulabilir. Bu tür "yönlendirme enjeksiyonları" gerçek ve büyüyen bir endişe kaynağıdır ve Lakera'nın özellikle çözmeyi amaçladığı şey budur.

Bankada taze 20 milyon dolar ile Lakera, özellikle ABD'de küresel varlığını genişletmeye hazır durumda. Şirket, ABD merkezli yapay zeka startup'ı Respell ve Kanadalı mega-unicorn Cohere gibi Kuzey Amerika'daki birkaç oldukça yüksek profilli müşteriye zaten sahip olduğunu iddia ediyor.