Drei Fragen und Antworten: Bei KI kann es keine komplette Fairness geben Datenschutz KünstlicheIntelligenz MachineLearning
Die größten Nebelkerzen im Bereich KI zünden Lobbyisten, Unternehmen und Politik gerade bei Datenschutz und Bias der Modelle – dabei dreht sich der AI Act insbesondere um die Sicherheit von KI-Systemen in Bezug auf uns Menschen. Dass das Thema in der öffentlichen Debatte bisher eher schlecht transportiert wird, zeigt ein Zitat vom Gesundheitsminister Carl Lauterbach, der KI-Systeme mit Heizungen vergleicht und sie "mit synthetischen Daten durchspülen" will.
Verzerrungen können sich entlang des ganzen Lebenszyklus einer KI-Anwendung einschleichen. Eine zentrale Rolle spielen natürlich die Trainingsdaten. Sie beschreiben in der Regel jene Welt, die modelliert werden soll. Fehlen Daten oder sind manche Gruppen unterrepräsentiert, kann das zu Bias führen. Manchmal wird allerdings bereits der Ist-Zustand als unfair wahrgenommen, etwa wenn sich soziale Ungleichheit gesellschaftlich verfestigt hat.
Die KI birgt ein enormes Potenzial, unser Leben zu bereichern. Damit dieses Potenzial ausgeschöpft werden kann, muss die Gesellschaft der Technologie vertrauen können. Deshalb ist es im Interesse aller Beteiligten, dass der Einsatz verantwortungsvoll erfolgt. Das betrifft Fairness, aber auch andere Bereiche wie Transparenz, Verlässlichkeit und Datenschutz.Fairness klingt oft nach einem weichen, schlecht abgrenzbaren Konzept.
Tatsächlich gibt es sehr unterschiedliche Konzepte von Fairness, die sich aber in mathematische Formeln übersetzen lassen. Bekannte Definitionen sind zum Beispiel Demographic Parity oder Equalized Odds. Leider stehen einige Konzepte aber in direktem Konflikt, weshalb man nicht einfach eine Form von "kompletter Fairness" anstreben kann, die sämtliche Vorgaben gleichermaßen erfüllt.
Mehr Volumen und mehr Vielfalt in den Trainingsdaten erhöhen dabei zunächst einmal die Fähigkeit des KI-Modells zu generalisieren und damit die allgemeine Leistungsfähigkeit des Systems. Die Ursachen von Bias, die im Laufe des KI-Lebenszyklus auftreten können, werden dadurch allerdings nicht bekämpft. Mit Hinblick auf LLMs wie ChatGPT stellt sich die Fairness-Frage übrigens komplett neu.
日本 最新ニュース, 日本 見出し
Similar News:他のニュース ソースから収集した、これに似たニュース記事を読むこともできます。
Verschwundenes Tauchboot: Tragisches Ende der „Titan“-Suche – letzte Antworten, offene FragenDas tagelange Bangen um die Menschen an Bord des Tauchboots „Titan“ ist einer traurigen Gewissheit gewichen: Die fünf Männer sind längst tot. Doch was ist genau geschehen? Und wie geht es jetzt weiter?
続きを読む »
München: Drei Raubüberfälle in drei Stunden – 17-Jährige festgenommenDie Verdächtigen sollen ihre Opfer mit Pistole und Schlagstock bedroht haben und es vor allem auf deren Mobiltelefone abgesehen haben.
続きを読む »
Destiny 2 nutzt „versehentlich' Werke eines Künstlers, ohne zu fragen, verspricht jetzt EntschädigungDurch ein Missverständnis landete das Kunstwerk eines Fans in einer neuen Cutscene in Destiny 2. Bungie klärt auf.
続きを読む »
Die ungelösten Fragen der Titan-KatastropheNach der fieberhaften Suche nach dem im Nordatlantik verschollenen Mini-U-Boot herrscht traurige Gewissheit: Das private Tauchboot „Titan“ ist durch „katastrophale Implosion“ zerstört worden, alle fünf Menschen an Bord kamen ums Leben. Doch viele Fragen sind noch offen.
続きを読む »
Drei Jahre heise Security Pro – eine Zwischenbilanz von Jürgen SchmidtSeit 2020 bietet das Pro-Angebot von heise Security neben Hintergrundinformationen auch Networking und Austausch für Datenschutz- und Sicherheitsverantwortliche
続きを読む »
Neymar darf mit anderen Frauen Sex haben – unter drei Bedingungen!Neymar und seine Freundin erwarten ein gemeinsames Kind. Trotzdem darf er fremdgehen. Unter drei Bedingungen.
続きを読む »