📬NENNA.AI Monthly Newsletter - Januar

Start into 2025

January 30, 2025

Hallo, liebe NENNA.AI Follower 

Willkommen zu unserer ersten Ausgabe im neuen Jahr!

Der Newsletter zu Beginn des Jahres enthält tolle Neuigkeiten vom BSI, Update von der KI-VO und natürlich von NENNA. Scrollt nach unten, um mehr zu erfahren 👇

UND vielen Dank, dass Ihr Teil unserer Community seid! 💜

UNSERE THEMEN

  • BSI - Analyse von Chancen und Risiken generativer KI-Modelle

  • Referentenentwurf - KI-Durchführungsgesetz

  • *NEUE VERSION* von NENNA

  • Konsequenzen bei Datenleaks - Beispiel: Databroker Files

  • Was es sonst Neues gibt

BSI
BSI - Analyse von Chancen und Risiken generativer KI-Modelle

BSI empfiehlt PII-Filterlösungen für Schutz personenbezogener Daten in KI

Bundesamts für Sicherheit in der Informationstechnik (BSI) gibt einen Überblick über die Chancen und Risiken generativer KI-Modelle, einschließlich Text-, Bild- und Videoerzeugungssystemen. Es betont die Notwendigkeit einer umfassenden Sicherheitsstrategie, um die IT-Sicherheitsrisiken dieser Technologien zu bewältigen, und bietet konkrete technische Empfehlungen zur Risikominimierung.

Details:

  • Generative KI-Modelle bieten erhebliche Chancen für die Automatisierung und Verbesserung von Geschäftsprozessen, bergen jedoch auch erhebliche Sicherheitsrisiken. Dazu zählen die potenzielle Nutzung für Desinformation, Datenschutzverletzungen und Angriffe auf die Integrität von Daten und Systemen.

  • Die Risiken werden in verschiedene Kategorien unterteilt, darunter Risiken durch unsachgemäße Nutzung, absichtlichen Missbrauch und gezielte Angriffe auf die KI-Modelle. Besonders betont werden Bedrohungen wie Poisoning-Angriffe, bei denen Trainingsdaten manipuliert werden, und Privacy-Angriffe, bei denen sensible Informationen aus den Modellen extrahiert werden können.

  • Zur Reduzierung dieser Risiken empfiehlt das BSI technische Maßnahmen wie die Implementierung von Sicherheitskontrollen über den gesamten Lebenszyklus der Modelle, die Nutzung von Anonymisierungstechniken und die Integration robuster Authentifizierungs- und Autorisierungsmechanismen.

Warum ist das wichtig - vor allem aus NENNA-Perpektive:

Die zunehmende Integration generativer KI in Unternehmen und Behörden erfordert klare Sicherheitsvorkehrungen, um den Missbrauch von KI-Modellen zu verhindern und Datenschutz sowie Compliance sicherzustellen. PII-Filterung schützt Betreiber vor rechtlichen Konsequenzen und minimiert potenzielle Haftungsfälle durch Datenschutzverstöße

KI-Verordnung
Referentenentwurf - KI-Durchführungsgesetz

Bundesnetzagentur soll Marktüberwachungsbehörde für KI in Deutschland werden

Der Referentenentwurf zur Durchführung der EU-Verordnung 2024/1689 über künstliche Intelligenz schafft die rechtlichen Rahmenbedingungen für die Marktüberwachung und die Einhaltung der KI-Vorgaben in Deutschland. Er benennt zuständige Behörden, definiert Aufgaben und legt Maßnahmen zur Unterstützung von KMU und Start-ups fest.

Details:

  • Die Bundesnetzagentur soll als zentrale Marktüberwachungs- und notifizierende Behörde benannt werden, die für die Einhaltung der KI-Verordnung verantwortlich ist und ein Koordinierungs- und Kompetenzzentrum zur Unterstützung von Behörden und Unternehmen einrichtet.

  • Koordinierungs- und Kompetenzzentrum (KoKIVO) soll eingerichtet werden, um Behörden bei der Umsetzung der Verordnung zu unterstützen und technisches Fachwissen bereitzustellen, wobei auch Datenschutzbehörden, das BSI und das Bundeskartellamt eingebunden werden.

  • Verstöße werden nach dem OWiG geahndet, mit der Möglichkeit, Geldbußen auch gegen verantwortliche Personen in Unternehmen zu verhängen.

Warum ist das wichtig:

Die neuen Strukturen stärken die Marktüberwachung, verbessern die Durchsetzung der KI-Vorgaben und schaffen Rechtssicherheit für Unternehmen.

NENNA
NEUE VERSION von NENNA

Wir sind sehr stolz, die neue Version von NENNA zu veröffentlichen. Für noch mehr Sicherheit und bessere KI-Nutzung.

Was kann unsere neue Version im Detail?

  • Direkter Zugriff auf NENNA im Sidepanel deines Browsers (Chrome & Edge), damit ist es möglich, die Prompts und Dokumentenuploads noch besser zu steuern.

  • Wir können ab sofort KI-Websiten sperren und den Zugang nur über NENNA ermöglichen. Damit verhindern wir Schattennutzung von KI noch stärker und geben unseren Kunden mehr Kontrolle über die KI-Nutzung. Aktuelles Beispiel: DeepSeek

  • Kunden arbeiten erst in NENNA, bevor der maskierte Input in die KI (händisch oder live) übertragen wird. Damit geben wir die volle Kontrolle für die Sicherung von KI-Input in die Umgebung von NENNA und verhindern versehentliche Eingabe von sensiblen Daten.

  • Live-Demaskierung von KI-Output in NENNA. Damit maskierte Daten auch wieder demaskiert werden können, haben wir einen Live-Demaskierungs-Workprozess eingebaut. Einfach den KI-Output markieren und wir demaskieren automatisch in NENNA.

  • Mehrere Dokumente gleichzeitig maskieren und mit Ihnen arbeiten, ist über NENNA nun möglich. Damit könnt Ihr z.B. Dokumente vergleichen oder Zusammenfassungen aus mehreren Dokumenten generieren

Databroker Files
Datensicherheit

Konsequenzen bei Datenleaks - Beispiel: Databroker Files

Ein kürzlich aufgetauchter Datensatz eines US-Datenhändlers offenbart, dass rund 40.000 Apps weltweit Standortdaten ihrer Nutzer*innen sammeln und weitergeben. Solche Datenlecks können erhebliche rechtliche Konsequenzen für Unternehmen nach sich ziehen, einschließlich Meldepflichten und potenzieller Schadensersatzansprüche.

Details:

  • Umfang der Datensammlung: Der Datensatz enthält 380 Millionen Standortdaten aus 137 Ländern, die mit etwa 40.000 verschiedenen Apps verknüpft sind. Betroffen sind unter anderem beliebte Anwendungen wie Wetter Online, Focus Online und die queere Dating-App Hornet

  • Rechtliche Pflichten bei Datenlecks: Unternehmen sind verpflichtet, bei Bekanntwerden eines Datenlecks unverzüglich, spätestens jedoch innerhalb von 72 Stunden, die zuständige Datenschutzaufsichtsbehörde zu informieren. Bei hohem Risiko für die Betroffenen müssen diese ebenfalls umgehend benachrichtigt werden.

  • Mögliche Konsequenzen: Neben finanziellen Verlusten und Reputationsschäden drohen Unternehmen bei Verstößen gegen die Datenschutz-Grundverordnung (DSGVO) erhebliche Bußgelder. Zudem können Betroffene Schadensersatz für materielle und immaterielle Schäden geltend machen.

Warum ist das wichtig:

Die Offenlegung der massiven Datensammlung durch zahlreiche Apps unterstreicht die Dringlichkeit für Unternehmen, robuste Datenschutzmaßnahmen zu implementieren. Angesichts der strengen gesetzlichen Vorgaben und der potenziellen Risiken ist es unerlässlich, präventive Maßnahmen zu ergreifen, um Datenlecks zu verhindern und die Rechte der Nutzer*innen zu schützen. NENNA ist insbesondere in der KI-Nutzung eine geeignete technisch-organisatorische Maßnahme zum präventiven Datenschutz.

NEWS
Was es sonst neues gibt

  • Projekt "Stargate": Die USA investieren mit dem „Projekt Stargate“ bis zu 500 Milliarden US-Dollar in den Ausbau der weltweit größten KI-Infrastruktur, was Europa unter erheblichen Zugzwang setzt. Experten fordern deutlich höhere Investitionen und weniger restriktive Regulierung, um im globalen KI-Wettbewerb konkurrenzfähig zu bleiben.

  • KI-Sicherheit: US-Präsident Donald Trump hat ein Dekret seines Vorgängers Joe Biden aufgehoben, das Sicherheitsprüfungen für KI-Entwicklungen vorschrieb, um Risiken für Verbraucher, Arbeitnehmer und die nationale Sicherheit zu minimieren. Diese Entscheidung gewährt KI-Entwicklern mehr Freiraum, obwohl Experten vor potenziellen Gefahren durch unkontrollierte KI-Systeme warnen.

  • OpenAI: Die italienische Datenschutzbehörde hat OpenAI mit einer Geldstrafe von 15 Millionen Euro belegt, da das Unternehmen personenbezogene Daten ohne angemessene Rechtsgrundlage verarbeitet und keine ausreichende Altersverifikation für ChatGPT implementiert hat. Zudem wurde eine sechsmonatige Informationskampagne angeordnet, um die Öffentlichkeit über die Funktionsweise von ChatGPT und die Datensammlung zum Training der KI aufzuklären.

  • Meta: Meta hat angekündigt, dass seine KI, Meta AI, künftig persönliche Daten von Facebook- und Instagram-Nutzern verwenden wird, um Antworten zu personalisieren. Diese Funktion ermöglicht es der KI, Vorlieben und Interessen der Nutzer zu berücksichtigen, um relevantere Empfehlungen und Antworten zu liefern

Events
Wo Ihr uns finden könnt

Wir sind in der kommenden Zeit auf diesen Veranstaltungen, wenn Ihr uns gerne mal persönlich treffen wollt, kommt dort vorbei:

Februar

  • 20.02. NENNA Webinar: Datensichere KI-Nutzung für Unternehmen: Rechtliche Rahmenbedingungen und Praxis-Beispiele zusammen mit der Kanzlei SKW Schwarz

März

April

  • 09.04/10.04 - Aussteller auf der FIBE