Datenethik und KI-Regulierung im Überblick: 47 Begriffe für ein faires Miteinander

Hierzulande und in der EU reguliert man gern. Man schreibt am liebsten vor und kontrolliert. Aber ganz ohne geht es eben auch nicht. Das Glossar hilft, sich im Dschungel der Fachbegriffe zurechtzufinden.

Die Begriffe decken verschiedene Aspekte der Datenethik und KI-Regulierung ab, darunter Datenschutz, Fairness, Transparenz, Verantwortung, Sicherheit und moralische Prinzipien. Es gilt ein breites Spektrum an Konzepten zu berücksichtigen, für alles, was im Umgang mit ChatGPT, KI und Daten relevant ist.

Begriffe aus dem Bereich Datenethik & KI-Regulierung

Hier findest du, was wichtig und zentral ist für das Verständnis und die Diskussion rund um Datenethik und KI-Regulierung.

Algorithmische Verzerrung (Algorithmic Bias): Bezieht sich auf systematische und unfaire Diskrepanzen, die durch Algorithmen während der Datenverarbeitung erzeugt werden. Diese Verzerrungen können aus der Datenqualität, dem Design des Algorithmus oder den Voreingenommenheiten der Entwickler stammen.

Anonymisierung: Prozess zur Umwandlung personenbezogener Daten in eine Form, bei der die Identifikation der betroffenen Person nicht mehr möglich ist. Dies dient dem Schutz der Privatsphäre und der Einhaltung von Datenschutzvorschriften.

Auditierbarkeit: Die Möglichkeit, die Aktionen und Entscheidungen eines Systems nachzuvollziehen und zu überprüfen, um sicherzustellen, dass es korrekt, sicher und gemäß festgelegten Standards oder Vorschriften funktioniert.

Automatisierte Entscheidungsfindung: Systeme oder Prozesse, die Entscheidungen automatisch treffen, basierend auf Algorithmen oder maschinellem Lernen, ohne menschliches Eingreifen.

Datenschutz: Schutz von persönlichen Informationen vor unbefugtem Zugriff, Verwendung oder Offenlegung. Worauf du bei ChatGPT achten solltest

Datensouveränität: Das Recht und die Fähigkeit einer Einheit (Individuum oder Organisation), ihre eigenen Daten zu kontrollieren und über deren Verarbeitung und Speicherung zu entscheiden.

Datenverantwortung: Die ethische Verpflichtung, sorgfältig und verantwortungsbewusst mit Daten umzugehen, insbesondere im Hinblick auf deren Sicherheit und die Privatsphäre der Dateninhaber.

Digitale Kluft (Digital Divide): Die Kluft zwischen denjenigen, die Zugang zu modernen Informationstechnologien haben, und denen, die keinen oder eingeschränkten Zugang haben, was zu einer Ungleichheit in digitaler Bildung und Ressourcen führt.

Diskriminierung: Ungerechte oder vorurteilsbehaftete Behandlung von Personen basierend auf Gruppenzugehörigkeiten wie Geschlecht, Rasse, Alter oder anderen Merkmalen.

Erklärbarkeit (Explainable AI): Der Ansatz, KI-Systeme so zu gestalten und zu implementieren, dass ihre Entscheidungen und Prozesse für Menschen verständlich und nachvollziehbar sind.

Ethikbeirat: Ein Gremium, das Richtlinien vorschlägt und überwacht, um sicherzustellen, dass Organisationen oder Projekte ethische Standards in ihrer Arbeit und ihren Entscheidungen einhalten.

Ethische Richtlinien: Prinzipien oder Regeln, die entworfen wurden, um ethisches Verhalten in der Entwicklung und Anwendung von Technologien zu fördern und sicherzustellen.

Ethisches Design: Der Prozess der Einbeziehung ethischer Überlegungen in das Design von Produkten und Systemen, um sicherzustellen, dass diese gerecht, sicher und im besten Interesse aller Nutzer funktionieren.

Fairness: Das Prinzip, dass Systeme und Prozesse unparteiisch, gerecht und frei von Vorurteilen sein sollten, insbesondere im Kontext der algorithmischen Entscheidungsfindung.

Generative AI: Künstliche Intelligenz, die darauf spezialisiert ist, Inhalte zu erzeugen, wie z.B. Texte, Bilder, Musik oder Videos, basierend auf trainierten Daten.

Governance: Die Strukturen und Prozesse, die zur Steuerung, Regulierung und Überwachung von Organisationen und Systemen, einschließlich KI-Systemen, verwendet werden.

Künstliche Allgemeinintelligenz (AGI): Eine Form der künstlichen Intelligenz, die die Fähigkeit besitzt, jede kognitive Aufgabe zu erfüllen, die ein Mensch ausführen kann. AGI ist noch weitgehend theoretisch und repräsentiert ein langfristiges Ziel in der KI-Forschung.

Haftung: Die rechtliche Verantwortung, die jemand für seine Handlungen oder die seiner Systeme trägt, insbesondere im Hinblick auf Schäden oder Verletzungen, die durch KI-Systeme verursacht werden können.

Informationelle Selbstbestimmung: Das Recht von Individuen, über die Preisgabe und Verwendung ihrer persönlichen Daten selbst zu entscheiden. Dieses Prinzip ist besonders relevant in der digitalen Ära, wo persönliche Daten leicht gesammelt und verarbeitet werden können.

Interoperabilität: Die Fähigkeit verschiedener Systeme, Geräte oder Anwendungen (oftmals unterschiedlicher Hersteller oder Entwicklungsstandards), miteinander zu kommunizieren und zusammenzuarbeiten. Dies ist für die effiziente Integration und Nutzung von KI-Systemen wesentlich.

KI-Aufsicht: Die Überwachung und Kontrolle von KI-Systemen durch regulierende Behörden oder spezialisierte Gremien, um sicherzustellen, dass diese Systeme ethische Richtlinien, rechtliche Anforderungen und Sicherheitsstandards einhalten.

KI-Regulierung: Gesetzliche und normative Rahmenbedingungen, die festlegen, wie KI entwickelt, eingesetzt und kontrolliert wird, um Missbrauch zu verhindern und gesellschaftliche Werte zu schützen.

KI-Sicherheit: Maßnahmen und Technologien, die darauf ausgerichtet sind, KI-Systeme vor internen und externen Bedrohungen zu schützen und ihre zuverlässige Funktion sicherzustellen.

KI-Zertifizierung: Ein Prozess, bei dem KI-Systeme geprüft werden, um zu bestätigen, dass sie bestimmte Standards hinsichtlich Sicherheit, Ethik und Leistung erfüllen.

Künstliche Intelligenz (KI): Technologie und Wissenschaft von der Schaffung intelligenter Maschinen oder Programme, die Aufgaben ausführen können, die typischerweise menschliche Intelligenz erfordern, wie etwa Lernen, Problemlösen und Wahrnehmung.

Maschinelles Lernen (Machine Learning): Ein Teilgebiet der Künstlichen Intelligenz, das Algorithmen verwendet, die lernen und sich verbessern, indem sie auf Daten zugreifen und daraus Muster und Einsichten extrahieren.

Menschenrechte: Grundlegende Rechte und Freiheiten, die jedem Menschen zustehen, unabhängig von Nationalität, Wohnort, Geschlecht, nationaler oder ethnischer Herkunft, Religion, Sprache oder anderen Status.

Nachhaltigkeit: Entwicklung, die die Bedürfnisse der Gegenwart erfüllt, ohne die Fähigkeit zukünftiger Generationen zu gefährden, ihre eigenen Bedürfnisse zu erfüllen. Im Kontext der KI bezieht sich dies auf die Schaffung von Technologien, die langfristig umweltverträglich und sozial gerecht sind.

Neuronale Netze: Informatikmodelle, die von der Struktur und Funktion des menschlichen Gehirns inspiriert sind und in der Lage sind, komplexe Muster und Daten durch Lernprozesse zu verarbeiten.

Prinzip der Zweckbindung: Ein Datenschutzprinzip, das besagt, dass Daten nur für den spezifisch angegebenen und legitimen Zweck gesammelt werden dürfen und nicht darüber hinaus verwendet werden sollten.

Privacy by Design: Ein Ansatz im Datenschutz, bei dem der Schutz der Privatsphäre von Anfang an in die Entwicklung von Technologien und Systemen integriert wird.

Profiling: Das Sammeln von Informationen über Personen und das automatische Verarbeiten dieser Daten, um bestimmte Charakteristika zu analysieren oder vorherzusagen, oft im Kontext von personalisierter Werbung, Risikobewertung oder Verhaltensvorhersage.

Rechenschaftspflicht: Die Verpflichtung von Organisationen und Individuen, ihre Handlungen zu begründen und für die Einhaltung von rechtlichen und ethischen Standards verantwortlich zu sein.

Recht auf Auskunft: Das Recht von Individuen, von einer Organisation Auskunft darüber zu verlangen, welche personenbezogenen Daten über sie gespeichert sind und wie diese Daten verwendet werden.

Recht auf Berichtigung: Das Recht von Personen, die Korrektur falscher oder unvollständiger personenbezogener Daten, die über sie gespeichert sind, zu verlangen.

Recht auf Datenübertragbarkeit: Das Recht von Individuen, ihre Daten von einem Dienstleister in einem gängigen, maschinenlesbaren Format zu erhalten und an einen anderen Anbieter übertragen zu lassen.

Recht auf Löschung: Auch bekannt als “Recht auf Vergessenwerden”. Dies ermöglicht es Individuen, die Löschung ihrer personenbezogenen Daten zu verlangen, sofern keine legitimen Gründe für deren weitere Verarbeitung bestehen.

Verantwortungsvolle KI (Responsible AI): KI-Systeme, die ethisch gestaltet sind und deren Entwicklung und Einsatz verantwortungsvoll erfolgen, um positive soziale Auswirkungen zu fördern und Schaden zu minimieren.

Risikobewertung: Der Prozess der Identifikation und Bewertung von potenziellen Risiken, die mit einer bestimmten Aktivität oder Technologie verbunden sind, um präventive Maßnahmen zu ergreifen.

Robustheit: Die Fähigkeit eines Systems, zuverlässig unter verschiedenen Bedingungen zu funktionieren und widerstandsfähig gegenüber Störungen, Manipulationen oder Fehlern zu sein.

Singularität: Ein theoretischer Zustand in der Zukunft, in dem technologischer Fortschritt, insbesondere im Bereich der künstlichen Intelligenz, so weit fortgeschritten ist, dass Maschinen die menschliche Intelligenz übertreffen und unkontrollierbare und unvorhersehbare Veränderungen hervorrufen könnten.

Technikfolgenabschätzung: Eine systematische Bewertung der Auswirkungen, die neue Technologien auf die Gesellschaft, Wirtschaft und Umwelt haben können, um fundierte politische und geschäftliche Entscheidungen zu treffen.

Transparenz: Die Klarheit und Offenheit, mit der Organisationen und Systeme ihre Methoden, Algorithmen und Entscheidungen darlegen, um Verständlichkeit und Vertrauen zu fördern.

Vertrauenswürdige KI (Trustworthy AI): KI-Systeme, die so gestaltet sind, dass sie ethische, sichere und zuverlässige Operationen gewährleisten und das Vertrauen der Nutzer und der Öffentlichkeit in ihre Anwendungen stärken.

Überwachungskapitalismus: Ein Wirtschaftssystem, in dem persönliche Daten systematisch gesammelt und analysiert werden, um Verhaltensvorhersagen zu treffen und diese Informationen kommerziell zu nutzen, oft auf Weisen, die die Privatsphäre beeinträchtigen.

Verantwortungsdiffusion: Das Phänomen, dass in komplexen Systemen oder Organisationen die individuelle Verantwortung für Handlungen oder Entscheidungen unklar wird, was zu einem Mangel an Verantwortlichkeit führen kann.

Verhaltenskodizes: Richtlinien oder Regeln, die bestimmte Verhaltensweisen und ethische Standards für Mitglieder einer Organisation oder Berufsgruppe festlegen.

Zertifizierung: Der Prozess, durch den eine autorisierte Stelle bestätigt, dass ein Produkt, eine Person oder ein System spezifische Anforderungen erfüllt, häufig bezogen auf Qualität, Sicherheit und Leistung.

Mein abschließender Linktipp beschreibt eines der neuen Probleme, die KI uns bringen kann: Für nur 9 Euro können Sie mit toten Angehörigen reden – aber Sie sollten die Risiken kennen oder Deepfakes von Verstorbenen sind der Renner in China

Werkstatt

Das Beitragsbild generierte die KI DALL-E, die übrigen Abbildungen via Bing, was darin abgebildet ist, existiert in der realen Welt nicht. Die verwendeten Fonts sind Anton (Google) und Alegreya Sans (Google). Die Headline wurde mit Google Gemini optimiert.