Odbor prevence kriminality Ministerstva vnitra společně s odborníky týmu E-Bezpečí Univerzity Palackého v Olomouci představují nový preventivní materiál zaměřený na umělou inteligenci.

Publikace s názvem „Umělá inteligence: Rizika a odpovědnost“ je metodickým průvodcem světa umělé inteligence, který se věnuje jejímu praktickému využití, ale také etickým a právním aspektům. Zvláštní pozornost věnuje generativní umělé inteligenci, která umožňuje vytvářet texty, obrázky, hudbu nebo videa, ale zároveň může být zneužita k šíření dezinformací, manipulaci či podvodům. Zkoumá, jaké dopady může mít AI na autorská práva, soukromí a bezpečnost, a upozorňuje na rizika spojená s jejím nekontrolovaným využíváním.

V publikaci proto naleznete témata, která se například věnují pozitivům a negativům AI, regulaci na úrovni EU, vytváření deepfake videí, klonování lidského hlasu, roli AI v online podvodech či generování pornografie a mnoho dalších. Kromě samotného textu využívá publikace i videa či obrázky, které prakticky přibližují schopnosti umělé inteligence.

"Věříme, že příručka dokáže policistům, ale také dalším cílovým skupinám, přiblížit příležitosti či rizika, která jsou spojena s generativní umělou inteligencí," uvádí prof. Kamil Kopecký z PdF Univerzity Palackého v Olomouci. Zároveň doplňuje: "Proto v příručce řešíme např. témata spojená s deep fakes či deep nude, halucinování a bias, ale také např. problémy spojené s ochranou osobních údajů ve vztahu k AI."

Pracovat můžete nejenom s odbornou metodickou knihou vycházející z konkrétních poznatků a zkušeností z výzkumné a vzdělávací činnosti, ale také s prezentací v poutavé grafické podobě s metodickými komentáři, kterou můžete využít pro vaše preventivní aktivity. Materiály jsou určeny všem, kteří se věnují všeobecné primární prevenci a pracují se všemi věkovými skupinami – ať již ve školním prostředí či mimo něj, ale také těm, kteří se o tuto problematiku zajímají. Vydáním tohoto materiálu reagujeme na sílící poptávku po základní znalosti v oblasti umělé inteligence a aktuálních rizicích, které přináší.

Jsme také velmi potěšeni, že tento projekt můžeme představit jako aktivitu v rámci Festivalu bezpečného internetu, který již 12. rokem pořádá Národní úřad pro kybernetickou bezpečnost.

Věříme, že tyto materiály budou přínosem a přejeme hodně úspěchů při Vaší práci!

Odbor prevence Ministerstva vnitra ČR
& E-Bezpečí Univerzity Palackého v Olomouci