Edy Almer, dyrektor ds. zarządzania produktami w zakresie wykrywania zagrożeń i reagowania na incydenty w firmie Logpoint, przedstawia obawy i szersze zastosowania sztucznej inteligencji.
Rozwój sztucznej inteligencji (AI) w postaci modeli uczenia się języków (LLM) już teraz znacząco zakłóca współczesne społeczeństwo. Widzieliśmy sprzeciwy wobec wykorzystywania przez te systemy materiałów chronionych prawem autorskim, na których są szkolone, obawy, czy można na nich polegać z powodu „halucynacji” i stronniczości oraz ich potencjalnego wyrządzania szkód.
W rezultacie UE spieszy się z regulacjami w postaci ustawy o sztucznej inteligencji, która ma wejść w życie przed końcem roku.
Jak wynika z ustawy, panuje powszechna zgoda co do tego, że sztuczna inteligencja zostanie z nami, a z punktu widzenia cyberbezpieczeństwa konieczne jest, abyśmy zrozumieli, w jaki sposób można ją wykorzystać przeciwko nam lub pomóc nam w naszej obronie. Wynika to z faktu, że sztuczna inteligencja znacznie zwiększy kompetencje cyberprzestępców, znacznie utrudniając wykrywanie ataków i obronę przed nimi.
Na przykład może uczynić ataki phishingowe znacznie bardziej przekonującymi, został oszukany do napisania złośliwego oprogramowania i może być używany do generowania dezinformacji.
Sztuczna inteligencja może usprawnić procesy bezpieczeństwa
W tej chwili głównym zmartwieniem jest to, że bardziej wyrafinowane ataki będą dostępne w sprzedaży w ciemnej sieci. The New Scientist twierdzi, że sztuczna inteligencja może obniżyć koszty gangów zajmujących się cyberprzestępczością nawet o 96%, widząc spadek cen za tworzenie zestawów narzędzi. To z kolei obniży koszt wejścia i poziom umiejętności potrzebnych do przeprowadzania ataków.
Nic więc dziwnego, że organizacje przygotowują się do ataków AI, a ponad połowa spodziewa się udanego ataku napędzanego sztuczną inteligencją w ciągu najbliższych ośmiu miesięcy.
Ale szanse są, choć raz, lekko ułożone na naszą korzyść, ponieważ LLM są skonstruowane tak, aby czynić dobro. Mają wiele wbudowanych zabezpieczeń, które atakujący muszą obejść, aby osiągnąć swoje złośliwe cele.
https://www.innovationnewsnetwork.com/
