Gewisse Anwendungen wie eine biometrische Kategorisierung auf der Grundlage sensibler Merkmale (z.B. Hautfarbe, politische oder religiöse Ansichten) oder das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras werden verboten – Ausnahmen gibt es für Sicherheitsbehörden.
Verbot ab Februar 2025
Dieses Verbot soll bereits ab Februar 2025 greifen, der Großteil der neuen Regeln werden dann ab August 2026 schlagend. Für KI-Systemen mit allgemeinem Verwendungszweck (wie z.B. ChatGP) gelten gesonderte Regeln, die ab August 2025 gelten sollen.Sogenannte „Hoch-Risiko-KI“ darf verwendet werden, unterliegt aber strengen Regeln und muss behördlich genehmigt werden. Hierunter fallen unter anderem von Sicherheitsbehörden genutzte Systeme oder zum Beispiel solche, die in der Personalverwaltung verwendet werden.
Eine weitere Kategorie stellen Systeme dar, bei denen vorrangig ein „Transparenz-Risiko“ gesehen wird. Hier geht es vor allem darum, dass zum Beispiel bei Bildern oder Videos klar erkenntlich gemacht wird, dass diese mithilfe von KI hergestellt wurden.
