Evropská komise hledá experty na AI modely

Evropský Úřad pro umělou inteligenci (AI OFFICE) zve oborníky na AI k účasti na workshopu zaměřeného na hodnocení modelů obecného využití AI se systémovými riziky.

Workshop proběhne 13. prosince.  Experti mohou nyní vyjádřit svůj zájem zaregistrováním svého příspěvku nejpozději do 8. prosince zde.

Workshop je příležitostí pro firmy a výzkumné skupiny prezentovat své znalosti a přispět k rozvoji hodnotícího ekosystému podle nařízení AI Act. Jeho cílem je podpořit spolupráci a pokrok ve vědě o hodnocení modelů obecného použití AI, což přispěje k vytvoření robustních rámců pro zajištění bezpečnosti a důvěryhodnosti těchto modelů.

Úřad pro AI vyzývá zájemce k zaslání abstraktů již publikovaných studií o hodnocení modelů obecného použití AI se systémovými riziky. Klíčová témata zahrnují:

• CBRN rizika: rizika spojená s chemickými, biologickými, radiologickými a jadernými hrozbami
• Kybernetické útoky: rizika spojená s útočnými kybernetickými schopnostmi
• Velké havárie: rizika velkých výpadků nebo narušení infrastruktury
• Ztráta kontroly: obavy týkající se dohledu a sladění autonomních AI modelů
• Diskriminace: rizika generování diskriminačních výstupů
• Porušení soukromí: rizika spojená s narušením soukromí nebo zneužitím dat
• Dezinformace: rizika spojená s šířením nepravdivých nebo škodlivých informací
• Další systémová rizika: rizika ovlivňující veřejné zdraví, bezpečnost, demokratické procesy nebo základní práva

Pozadí akce
Nařízení o AI stanoví pravidla pro zajištění bezpečnosti a důvěryhodnosti modelů obecného použití AI, zejména těch, které představují systémová rizika, jako je usnadnění vývoje biologických zbraní, ztráta kontroly nebo rozsáhlé škody, například diskriminace nebo dezinformace. Poskytovatelé těchto modelů musí hodnotit a zmírňovat rizika, provádět testování odolnosti, hlásit incidenty a zajistit kybernetickou bezpečnost modelu.

Evropská kancelář pro AI prosazuje tato pravidla, provádí hodnocení, vyšetřuje systémová rizika a ukládá sankce, je-li to nutné. Může také jmenovat nezávislé odborníky k provedení hodnocení.

Vzhledem k tomu, že věda o hodnocení systémových rizik se stále vyvíjí, kancelář pro AI podporuje spolupráci s hodnotiteli za účelem zdokonalení metodologií a zavedení osvědčených postupů. Workshopy, jako je ten nadcházející v prosinci 2024, tuto snahu podporují a vytvářejí základ pro bezpečný a odpovědný dohled nad AI.