Kyberbezpečnost a umělá inteligence pod tlakem
Několik nových informací z Česka i zahraničí ukazuje, že oblast digitální bezpečnosti čelí různým, ale vzájemně propojeným rizikům. Zatímco Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB) upozorňuje na hrozby spojené s kvantovými počítači a podvody využívajícími cizí identitu, ve Spojených státech se řeší i zneužívání platforem Meta pro nelegální AI reklamy a možné sankce za předávání technologických postupů u modelů umělé inteligence.
NÚKIB zveřejnil podpůrné materiály, které mají organizacím i veřejnosti pomoci připravit se na rizika spojená s nástupem kvantových počítačů. Tyto stroje by v budoucnu mohly výrazně oslabit některé dnes běžně používané kryptografické metody, tedy způsoby šifrování a ochrany dat. Úřad tím podle svého sdělení míří hlavně na včasnou přípravu, aby bylo možné postupně přejít na odolnější postupy a technologie.
Současně NÚKIB upozornil na zneužívání identit společností Amazon a Microsoft i českých institucí. Jde o podvody, při nichž útočníci vystupují pod jménem důvěryhodné značky nebo úřadu, aby zvýšili šanci, že lidé nebo firmy zareagují na falešnou zprávu, odkaz či výzvu. Úřad tím znovu připomíná, že právě napodobování známých jmen patří mezi časté techniky kybernetických útočníků.
Ze Spojených států přišla také zpráva o tlaku na společnost Meta. Podle zveřejněné informace na jejích platformách Facebook a Instagram měly být nalezeny tisíce reklam propagujících tzv. „AI nudify“ služby, tedy nástroje určené k úpravám fotografií, které mají vytvářet nahé nebo odhaleně působící snímky. Podle reportu se tyto reklamy objevovaly navzdory pravidlům platforem. Problém není jen v obsahu samotném, ale i v tom, že podobné služby mohou být zneužitelné a zasahovat do soukromí lidí.
Další americká zpráva se týká možných sankcí v souvislosti s údajným předáváním know-how k modelům umělé inteligence z Číny. Ve hře je podezření, že šlo o takzvanou distilaci modelů, tedy postup, při němž menší model získává schopnosti od většího, už natrénovaného systému. O konkrétních opatřeních zatím není rozhodnuto, ale sama hrozba sankcí ukazuje, že i vývoj a převod AI technologií se stává předmětem geopolitického napětí.
Společný jmenovatel: ochrana důvěry a citlivých dat
Ačkoli se jednotlivé zprávy týkají odlišných témat, spojuje je stejný motiv: snaha chránit důvěru uživatelů, data i technologické know-how. Kybernetické útoky dnes nemusí znamenat jen klasický průnik do systému. Stejně dobře mohou pracovat s falešnou identitou, podvodnou reklamou nebo s nástroji umělé inteligence, které umožňují automatizovat a zrychlovat zneužití.
Pro běžné uživatele z toho plyne několik jednoduchých zásad. Vyplatí se ověřovat, kdo je odesílatelem zprávy, neklikat na podezřelé odkazy a být obezřetný i u reklam, které slibují atraktivní nebo neobvyklé služby. U organizací je pak důležité sledovat doporučení odborných institucí a počítat s tím, že bezpečnostní prostředí se může v příštích letech dál měnit i kvůli nástupu kvantových technologií.
Závěr
Nové informace z Česka i USA potvrzují, že digitální bezpečnost už není jen otázkou techniky, ale také důvěry, regulace a prevence. Ať už jde o kvantové počítače, falešné identity nebo sporné využití umělé inteligence, společným cílem zůstává lepší ochrana uživatelů i dat.
Článek vytvořen s použitím umělé inteligence.
Zdroje
- Meta Faces Scrutiny After Report Finds Thousands of AI Nudify Ads on Facebook, Instagram
- US Threatens Sanctions Over Alleged Chinese AI Model Distillation
- NÚKIB připravil podpůrné materiály pro ochranu před hrozbou v podobě kvantových počítačů
- Upozorňujeme na zneužívání identit Amazon, Microsoft a státních institucí
