AI v Kyberbezpečnosti

LLM (Large Language Models) - moderní jazykové modely AI

• Zdraví - Googpiza navrhla recept přizpůsobený zdravotnímu stavu volajícího (potenciální budoucí scénář, kde naše životy mohou být otevřenou knihou díky všudypřítomné integraci AI technologie)
• význam pro CISCO - "Kybernetická bezpečnost je praxe chránit systémy, sítě a programy před digitálními útoky."
• software třetích stran - může představovat nebezpečí, propojení je obtížné
• Výhody generativní AI v kybernetické bezpečnosti - zlepšení detekce hrozeb
  • Malware (trénink na velkých souborech dat a varianty)
  • Anomálie (AI může vytvořit modely chování pro různé systémy -> může identifikovat hrozby, které by mohly zůstat nepovšimnuty)
  • Lámání hesel (generování možných kombinací hesel na základě známých vzorů a běžných hesel)
  • Kybernetická inteligence (může analyzovat obrovské množství kybernetických dat -> pomáhá analytikovi)
  • Obrana proti adversární AI (technika, kde zlomyslní aktéři používají AI k vytváření sofistikovaných útoků, které mohou obejít tradiční bezpečnostní systémy)
  • Detekce phishingu (AI může generovat více phishingových emailů a učit se z nich sám)
  • Analýza síťového provozu (podezřelé vzory)
  • Generování falešných dokumentů
  • Detekce založená na podpisech (AI může analyzovat známé vzory útoků a podpisy k blokování hrozeb)
  • UEBA (monitorování chování uživatele a subjektů -> vnitřní hrozby)
  • Bezpečnost koncových bodů (EPP - ochrana, EDR - detekce a reakce)
  • Bezpečnostní chatboty (asistují týmům pro bezpečnost poskytujícím reálný časový návod)
  • Hluboké učení a neuronové sítě (CNN - vizuální data, a RNN - sekvenciální data) -> používány pro analýzu obrázků a textů -> lepší detekce a klasifikace

Vertex AI a Security AI Workbench

• Oba placené služby od Google Cloud Platform
• Vertex AI je spravovaná platforma pro strojové učení, která usnadňuje vytváření, trénink, nasazení a správu modelů strojového učení na velké úrovni. Poskytuje sjednocený zážitek pro správu celého životního cyklu strojového učení, od přípravy dat po nasazení modelu.
• Security AI Workbench je nová nabídka na Vertex AI, která pomáhá bezpečnostním týmům účinněji detekovat a reagovat na kybernetické hrozby.
• Zlepšený postoj k bezpečnosti, snížená pracovní zátěž, zvýšená efektivita

Dostupné nástroje pro kybernetickou bezpečnost

1. Google Cloud Security AI Workbench od Google
2. Microsoft Security Copilot od Microsoftu
3. CrowdStrike Charlotte AI od společnosti CrowdStrike
4. Cisco Security Cloud od firmy Cisco
5. Airgap Networks ThreatGPT od společnosti Airgap Networks
6. SentinelOne od Sentinel
7. Synthesis Humans od Synthesis AI
8. Security Scorecard od SecurityScorecard
9. MOSTLY AI od mostly.ai

KYBERNETICKÁ SÍLA

• CISA - Agentura pro kybernetickou bezpečnost a bezpečnost infrastruktury musí uplatnit svůj vliv tím, že bude řídit společnosti AI (směrnice pro bezpečnost).
• Vytvoření národní Kybernetické síly věnované kybernetické bezpečnosti by posílilo odolnost země vůči kybernetickým hrozbám.
• Prozatím má každá země (některé) svou vlastní Kybernetickou sílu, např. Kybernetický úřad Spojených států (USCYBERCOM), Národní kybernetická síla Spojeného království (NCF), Strategická podpůrná síla Čínské lidové osvobozenecké armády (PLASSF)
• Kybernetická síla je důležitým faktorem v současném světě. Je důležité, aby vlády, organizace a jednotlivci byli informováni o kybernetických hrozbách a aby podnikli kroky k ochraně svých systémů a dat.

EVROPSKÝ NOVÝ ZÁKON O UMĚLÉ INTELIGENCI

• Zákon o umělé inteligenci - AIA (Artificial Intelligence Act)
• 14. června 2023
• první komplexní zákon (regulující vývoj, použití a marketing systémů umělé inteligence AI)
• zákon má zajistit, aby byly systémy AI bezpečné, spolehlivé a důvěryhodné a respektovaly základní práva a hodnoty
• čtyři kategorie rizik (nepřijatelné, vysoké nebezpečí, omezené, minimální nebo žádné)
• Očekává se, že AIA vstoupí v platnost v roce 2025
• požadavky: transparentnost, nediskriminace, ochrana soukromí, bezpečnost
• povinnosti pro vývojáře: posouzení rizika, bezpečnostní opatření, transparentnost, odpovědnost

Ačkoliv se snažíme bránit se proti vyvíjejícím se kybernetickým hrozbám, stává se nezbytnou nutností tyto změny přijmout.

Cybersecurity Ventures

• Sdílely své "Top 10 Kybernetických předpovědí a statistik pro rok 2023", které odhalily alarmující skutečnost, že globální finanční škody způsobené kybernetickými zločiny dosáhnou 8 bilionů dolarů v roce 2023 a 10,5 bilionů dolarů do roku 2025. Tyto číselné údaje, pokud by byly považovány za zemi, "by byly třetí největší ekonomikou na světě po USA a Číně."
• pro porovnání CZ 290 x USA 25500 (v miliardách USD)