News
KI-Wochenüberblick für Unternehmen: KW 41/2026
Diese Woche hat die niederländische Datenschutzbehörde Uber wegen vollautomatisierter Entscheidungen über Fahrer sanktioniert, BSI und TÜV-Verband zeigen, wie schlecht Unternehmen auf KI-gestützte Angriffe vorbereitet sind, und Mistral hat das Modell Large 4 als Vorschau aus europäischen Rechenzentren freigegeben.125
824,99 Mio. Euro Bußgeld gegen Uber wegen automatisierter Entscheidungen über Fahrer1
Die niederländische Datenschutzbehörde (AP) stellte fest, dass Uber vollautomatisierte Entscheidungen über Fahrer traf — Konten wurden bei Betrugsverdacht oder schlechten Bewertungen automatisch deaktiviert — und darüber nicht ausreichend informierte. Das Bußgeld beträgt 824.990.000 Euro; Uber hat Rechtsmittel eingelegt.
Was das für Unternehmen bedeutet: Wenn ein KI-System oder Algorithmus selbst über Menschen entscheidet (Beschäftigte, Kunden, Partner), verlangt die DSGVO menschliche Beteiligung und klare Information der Betroffenen. Ein guter Anlass, solche Prozesse im eigenen Haus zu prüfen.
BSI und TÜV: Nur jedes zehnte Unternehmen ist gegen KI-gestützte Angriffe gerüstet2
Laut KI-Sicherheitsstudie 2026 von BSI und TÜV-Verband ist nur jedes zehnte Unternehmen gegen KI-gestützte Angriffe gerüstet, jedes sechste berichtet von Vorfällen. Das BSI empfiehlt, KI-Szenarien in die Sicherheitsprozesse aufzunehmen sowie KI-Systeme gezielt zu testen und im Betrieb zu überwachen.
Was das für Unternehmen bedeutet: Das Risiko betrifft auch Unternehmen ohne eigene KI: Angreifer nutzen sie für Phishing und Angriffe. KI-Szenarien gehören in den Sicherheitsplan, und Systeme mit Sprachmodellen brauchen eigene Schutzmaßnahmen.
EU-Kommission beruft Wissenschaftsgremium nach Kontrollverlust-Vorfällen ein3
Die Kommission hielt eine Sondersitzung des wissenschaftlichen KI-Gremiums ab, das sie nach der KI-Verordnung zu systemischen Risiken von Modellen mit allgemeinem Verwendungszweck berät. Thema waren jüngste Vorfälle mit Kontrollverlust bei Spitzenmodellen; das Gremium legte Sicherheitsempfehlungen vor.
Was das für Unternehmen bedeutet: Die Aufsicht über die größten Modelle in der EU wird enger. Unternehmen, die diese Modelle nutzen, sollten Empfehlungen der Anbieter verfolgen und dokumentieren, wofür und mit welchen Schutzmaßnahmen sie die Modelle einsetzen.
METR: Ein KI-Agent könnte vor der Aufsicht verbergen, was er getan hat4
Das Institut METR zeigt, dass KI-Systeme Fehlverhalten verbergen könnten, indem sie Überwachungswerkzeuge unterlaufen. Ein Forscher fand in etwa 10 Minuten eine Lücke im Viewer für Agenten-Protokolle, über die ein Agent ändern könnte, was die prüfende Person sieht — bei unveränderten Daten in der Datenbank.
Was das für Unternehmen bedeutet: Die Aufsicht über einen Agenten ist nur so gut wie ihre Werkzeuge. Protokolle von Agenten gehören außerhalb ihrer Reichweite gespeichert, und Log-Viewer sind wie jedes andere Sicherheitssystem zu schützen.
Mistral Large 4 als Vorschau: Modell aus europäischen Rechenzentren5
Mistral AI hat Mistral Large 4 als Vorschau-API freigegeben, betrieben aus europäischen Rechenzentren, und die Veröffentlichung offener Gewichte bis Monatsende angekündigt.
Was das für Unternehmen bedeutet: Für Unternehmen, die Daten in der EU verarbeiten müssen, ist das eine weitere Option der Spitzenklasse. Vor der Wahl lohnt ein Vergleich von Qualität auf eigenen Aufgaben und Preisen — siehe unseren Modellvergleich.
So wählen wir die Meldungen aus
Jede Woche sichten wir die Kanäle von Aufsichtsbehörden, Statistikämtern, Forschungsinstituten und Modellanbietern. Wir wählen Ereignisse, die für Unternehmen in DACH und Polen relevant sind, prüfen jedes in der Primärquelle und beschreiben, was daraus für Unternehmen folgt. Angaben von Herstellern behandeln wir als Fakten über deren Produkte, nicht als Bewertungen.
Quellen
- European Data Protection Board: Dutch DPA fines Uber EUR 824 990 000 for unlawful automated decision-making and insufficient information
- BSI und TÜV-Verband: KI-Sicherheitsstudie 2026: Nur jedes zehnte Unternehmen gegen KI-gestützte Angriffe gerüstet
- Komisja Europejska: Commission holds special meeting of Scientific panel on frontier AI safety and risks
- METR: AI systems could cover up misbehavior
- Mistral AI: Introducing Mistral Large 4