Kybernetická bezpečnost a AI

Umělá inteligence se stále výrazněji prosazuje také v oblasti kybernetické bezpečnosti. Umožňuje analyzovat rozsáhlé množství bezpečnostních dat, vyhledávat neobvyklé chování, identifikovat potenciální útoky a podporovat bezpečnostní specialisty při rozhodování. Současně však vytváří nové možnosti také pro útočníky.

Přednáška se věnuje oběma stranám tohoto vývoje. Ukazuje příklady využití strojového učení a generativní AI v bezpečnostních systémech a zabývá se jejich omezeními, spolehlivostí a otázkou lidského dohledu. Pozornost je věnována také phishingu, sociálnímu inženýrství, generování škodlivého obsahu, útokům na AI modely a rizikům spojeným s důvěrou v automatizovaná doporučení.

Cílem přednášky není představit AI jako univerzální bezpečnostní řešení, ale ukázat, kde může být skutečně užitečná, kde naopak přináší nová rizika a proč musí být její nasazení součástí širšího systému řízení informační bezpečnosti.