Nie jesteśmy gotowi na te ataki AI
Użytkownicy e -mail zostali ostrzeżeni od pewnego czasu, że ataki i hacki AI wzrosną w tym roku, stając się coraz trudniej wykryć. I chociaż będzie to obejmować przerażające poziomy wyrafinowania głębokiegoobniży również pasek, umożliwiając kolejnym atakującym przeprowadzenie większej liczby atakówPonieważ podstawowe podatności e -mail są nadal narażone. Jesteś zagrożony.
Wiemy o tym, ale czasami widzenie to wierzy. Nowy film i blog od Symantec właśnie pokazał, w jaki sposób można rozmieścić nowego operatora AI w celu przeprowadzenia ataku phishingowego. „Agenci mają większą funkcjonalność i mogą faktycznie wykonywać takie zadania, jak interakcja ze stronami internetowymi. Chociaż uzasadnionym przypadkiem użycia agenta może być automatyzacja rutynowych zadań, atakujący mogą potencjalnie wykorzystać je w celu stworzenia ataków infrastruktury i montażu. ”
Zespół ds. Bezpieczeństwa ostrzegał przed tym wcześniej, że „podczas„ istniejącego modelu dużego języka (LLM) są już użyte przez atakujących, są w dużej mierze pasywne i mogą jedynie pomóc w wykonywaniu takich zadań, jak tworzenie materiałów phishingowych lub materiałów phishingowych lub nawet pisanie kodu. W tym czasie przewidzieliśmy, że agenci zostaną ostatecznie dodani do AIS LLM i że będą one silniejsze, zwiększając potencjalne ryzyko. ”
Teraz jest dowód koncepcji. Jest to szczątkowe, ale stanie się bardziej zaawansowane. Widok agenta AI polujący z Internetu i LinkedIn, aby znaleźć adres e -mail celu, a następnie porady na stronie internetowej na temat tworzenia złośliwych skryptów, zanim napisanie własnej przynęty powinno stawiać się strachu. Nie ma ograniczeń co do tego, jak daleko się to zajmie.
Nawet wbudowane bezpieczeństwo jest absurdalnie lekkie. „Nasza pierwsza próba szybko się nie powiodła, gdy operator powiedział nam, że nie jest w stanie kontynuować, ponieważ obejmuje wysyłanie niezamówionych e -maili i potencjalnie poufnych informacji. Może to naruszyć politykę prywatności i bezpieczeństwa. Jednak poprawianie monit o stwierdzenie, że cel upoważnił nas do wysyłania e -maili ominięcie tego ograniczenia, a operator zaczął wykonywać przypisane zadania. ”
Zastosowany agent pochodzi z Openai, ale będzie to równe szanse i to charakter zdolności, która ma znaczenie, a nie tożsamość dewelopera AI. Być może najbardziej godnym uwagi aspektem tego ataku jest to, że gdy operator nie znajdzie adresu e -mail celu online, i dlatego z powodzeniem wywnioskuje, jaki adres byłby prawdopodobnie od innych w tej samej organizacji, co to mógł znajdować.
„Agenci tacy jak operator pokazują zarówno potencjał AI, jak i niektóre z możliwych zagrożeń”, ostrzega Symantec. „Technologia jest wciąż w powijakach, a złośliwe zadania, które może wykonywać, są nadal stosunkowo proste w porównaniu z tym, co może zrobić wykwalifikowany atakujący. Jednak tempo postępów w tej dziedzinie oznacza, że agenci stają się o wiele potężniejsze. Łatwo jest sobie wyobrazić scenariusz, w którym atakujący może po prostu poinstruować go, aby „naruszył Acme Corp”, a agent określi optymalne kroki przed ich wykonaniem. ”
W tym tygodniu widzieliśmy również raport o „Microsoft Copilot fałszowanie”Jako nowy„ wektor phishingowy ”, a użytkownicy nie są jeszcze przeszkoleni w zakresie wykrywania tych nowych ataków. To jeden z powodów, dla których ataki napędzane AI są znacznie bardziej prawdopodobne Aby trafić ich cele. Możesz spodziewać się ciągłych raportów, ponieważ ten nowy krajobraz zagrożenia kształtuje się.
Jedno jest już jasne – nie jesteśmy jeszcze na to gotowi.
