Künstliche Intelligenz unter der Lupe: Zusammenspiel zwischen Entwicklung und der Gesellschaft

Blick zurück und auf den Stand der Lage in 2024

Neue Modelle aus dem Bereich „künstliche Intelligenz“ (KI) haben 2023 die allgemeine Bildfläche und speziell Endgeräte in privaten Haushalten wie Unternehmen betreten. In unserem ersten Blogartikel zu diesem Thema „Der Digital Workplace powered by KI undChatGPT“ sind Natural Language Processing Module (NLP) die Sterne der Stunde gewesen. Seither haben Microsoft, Google und andere Unternehmen sich dem KI-Universum angeschlossen. Bei einem stetig wachsenden Markt, der auf die Datenspeisung von Individuen angewiesen ist, ist nun auch die Europäische Union aktiv geworden: Am 9. Dezember einigt sich diese auf erste Regelungen von KI und legt einen Verordnungsentwurf für KI-Systeme vor.

2024 leuchten neue Sterne, sowohl entwicklungstechnisch als auch gesellschaftlich  – welche das sind finden Sie hier im Blogartikel.

Die Entwicklung rast davon

Die unterschiedlichen Typen der künstlichen Intelligenz

Am wohlbekanntesten sind die sogenannten NLP-Module wie ChatGPT der Firma OpenAI, welche zur „Generative AI“ zählen. Doch KI ist nunmehr für ein breites Aufgaben- und Anwendungsportfolio nutzbar. Einen Nenner, den die KI-Applikationen gemeinsam haben, ist die Basis auf dem ursprünglichen Entwicklungskonzept des Machine Learnings.

KI lässt sich in drei Arten aufteilen:

• ‍Artifical Narrow AI: mit dieser Art der KI befinden wir uns im „Jetzt“. KI dieser Art basiert auf der Grundlage von Trainingsdaten und führt explizite Aufgaben (wie text- oder bildbasierte) aus. Hierzu zählen ChatGPT und DALL·E von OpenAI oder die Sprachassistenzen Alexa von Amazon und Siri von Apple. Kennzeichnend für diese „Narrow AIs“ ist die Nutzung einzelner Untergruppen von kognitiver Fähigkeit.‍
• General AI: sogenannte „Artifical General Intelligence” (AGI) oder auch „Strong AI“ ist ein Science-Ficiton Szenario, das nicht in Erfüllung gegangen ist. IBM beschreibt AGI als theoretisches Konzept, nach welchem AGI aus bestehenden Daten- und Wissensmengen eigene Aufgaben innerhalb neuer Kontexte entwickeln kann, ohne dafür von Menschen trainiert zu werden. Quasi die gleichen Prozesse, wie sie das menschliche Gehirn leistet.‍
• Super AI: die letzte Stufe der KI-Evolution, die „Artifical Superintelligence“ ist in weiterer Ferne als AGI. Diese Art der KI würde, wenn realisierbar, gänzlich autonom denken, entscheiden, lernen, urteilen und die kognitiven Leistungsspektren des Menschenweit übersteigen. Eine Maschine mit Bewusstsein wäre das Resultat dieses theoretischen Szenarios.

Netflix powered by Reactive Machine AI

Jede der genannten KI-Arten ist in Kategorien gliederbar. Eine dieser Arten nutzen viele von uns unbewusst täglich, die Reactive Machine AI. Die bekannteste: Netflix. Der Serien- und Film-Anbieter denkt mit – auf Basis unserer Streaming-Daten in Form einer „Empfehlungsmaschine“ (Recommendations Engines). Klingt KI-mäßig, ist KI-mäßig. Allerdings ist das Ganze weniger wunderlich, als es zu Beginn scheint, denn:

• Statistische Mathematik und Algorithmen sind im Spiel
• der Streaming-Verlauf wird genutzt, keine älteren Daten oder Entscheidungen

Reaktive Maschinen KI ist auf spezielle Aufgaben trainiert und führt diese nach Schema-X aus.

‍

Limited Memory AI

Eine weitere Kategorie, die sich mit dem allgemeinen Verständnis von KI deckt, ist die Limited Memory AI. Der signifikante Unterschied liegt in der zeitlichen Verfügbarkeit von Datenressourcen. Das bedeutet, dass die KI-Systeme mit Limited Memory (dt. „begrenzte Speicherkapazität“) in der Lage sind, vergangene Daten auf aktuelle Handlungen und Entscheidungen zu adaptieren.

Aus diesem Grund sind Systeme wie ChatGPT nur so gut wie die Trainings-Datensätze sind und das individuelle Nutzungsergebnis umso besser, wenn wir mehr Informationen zu unseren Belangen einspeisen. Die Art „Generative AI“ fällt in die Kategorie der Limited Memory AI. Hierzu zählen folgende KI-Anbieter und Produkte:

• ChatGPT und DALL·E von OpenAI
• Bard, der von Google entwickelte KI-Chatbot
• DeepAI von DeepAI mit Chat-, Bild- und Text-Funktion

Auch andere Sprachassistenzen, Chatbots und automatisierte Autos nutzen Limited Memory AI in Echtzeit, um Services zu beschleunigen, zu automatisieren oder Antworten zugeben.

‍

Hohes Risiko, strenge Vorschriften

Gesetzesentwurf zur Nutzung von KI

Seit dem 9. Dezember 2023 existiert ein Verordnungsentwurf des Europäischen Parlaments zur Nutzung von KI-Systemen auf dem EU-Markt. Derzeit umfasst das "KI-Gesetz" die Sicherheit der Systeme, die Wahrung der Grundrechte von Individuen sowie die Werte der EU.

Ziel des Gesetzes ist die Regulation von KI um deren risikofreie Entwicklung einerseits zu forcieren und andererseits die sichere Nutzung einerseits zu unterstützen. Elemente der vorläufigen Einigung sind:

• Begriffsbestimmungen und Anwendungsbereiche von KI: klare Unterscheidungen von Definitionen und Auflistung von Kriterien
• Einstufung von KI-Systemen als Hochrisiko-Systeme und verbotene KI-Praktiken: Festlegung verschiedener Schutzebenen mit jeweiligen Transparenzpflichten, je nach Risikograd des KI-Systems
• Ausnahmeregeln für die Strafverfolgung: Nutzung von KI-Systemen für Schutzvorkehrungen im öffentlichen Raum
• Allgemeine Verwendungszwecke und Basismodelle: bezieht sich auf KI-Systeme, die zusätzlich noch in andere Systeme integriert sind und dadurch riskant werden

Die gesellschaftliche Fragen folgen hinterher

Gibt es faire KI?

Neben entwicklungstechnischen Fortschritten, beschäftigt sich die Forschung auch mit grundlegenden Fragen zu gesellschaftlichen und ethischen Auswirkungen von KI.

Im Rahmen eines Forschungsprogramms, das sich mit dem verantwortungsvollen Umgang mit künstlicher Intelligenz befasst, wurden drei Projekte an der Universität Mannheim von der Baden-Württemberg Stiftung unterstützt und deren Ergebnisse in 2024 präsentiert. Diese Projekte untersuchten verschiedene Aspekte der Interaktion von KI-Technologien und Gesellschaft.

Das erste Projekt "KarekoKI" beschäftigte sich mit der kartellrechtskonformen Gestaltung von KI-gestützten Preisfestsetzungen, wie sie bereits auf Online-Plattformen wie Amazon angewendet werden. Die Ergebnisse zeigen, dass KI-Algorithmen in der Lage sind, monopolistische Preise zu erzielen, was eine kritische Überprüfung der bestehenden Kartellrechtsgesetze erfordert.

Das zweite Projekt "ReNewRS" untersuchte, ob Nachrichtenempfehlungssysteme zur Polarisierung oder Radikalisierung von Nutzenden beitragen. Es wurde festgestellt, dass solche Systeme eine unausgewogene Auswahl an Nachrichten für die Nutzenden generieren können, aber die Polarisierungseffekte waren in den Experimenten begrenzt.

Das dritte Projekt "Fair ADM" analysierte die Fairness von automatisierten Entscheidungsprozessen im deutschen öffentlichen Sektor. Im Fokus stand dabei das Langzeitarbeitslosigkeit-Risiko am deutschen Arbeitsmarkt. Die Forschungsergebnisse zeigen, dass die Integration von Sozialwissenschaften entscheidend ist, um Vorurteile und Ungerechtigkeiten aufzudecken und soziale Ungleichheit in den Systemen zu verringern.

Insgesamt betonen die Projekte die Notwendigkeit einer genauen Untersuchung und Kontrolle der KI, insbesondere wenn sie eigenständige Entscheidungen trifft. Es wird darauf hingewiesen, dass die Entwicklung von KI nicht nur technisch, sondern auch ethisch und gesellschaftlich erfolgen muss. Es braucht eigene Ideen und Regeln, denn die Entwicklung von KI unterscheidet sich deutlich von der klassischer Programme. Ebenso ist die Zusammenarbeit zwischen verschiedenen Disziplinen entscheidend, um KI verantwortungsbewusst und fair einzusetzen.

Die Bedeutung für die digitale Zusammenarbeit am Arbeitsplatz

‍

Der Digital Workplace als digitale Heimat von Mitarbeitenden ist die Verlängerung gesellschaftlichen Zusammenlebens hin zur Zusammenarbeit am Arbeitsplatz. Die Vorteile der Nutzung von KI im Digital Workplace, gerade in den Bereichen HR und Marketing, aber auch in der Entwicklung, sind herausragend. Die Bereitschaft der Mitarbeitenden umso größer, mit den Tools zu arbeiten, die ihnen die eigene Arbeit erleichtern. Den Effizienzgedanken unterstützen wir als Digital Workplace Anbieter auch sehr stark. Aber gerade aus diesem Grund ist es wichtig, dass KI auch im Arbeitskontext verantwortungsbewusst eingesetzt wird, obwohl oder gerade weil deren Entwicklung so rasant verläuft.

So ist eines der Ziele der Digital Workplace Software Jalios, Abfrage-Regeln zur Quellenvalidierung einzuführen. Damit wollen wir einen verantwortungsbewussten Umgang mit Informationen vorantreiben. Als zusätzlicher Gate-Keeper schützen wir unsere eigenen Mitarbeitenden sowie die aller Unternehmen, die uns als Digital Workplace Anbieter und Software-Hersteller ihr Vertrauen entgegenbringen. Weitere Maßnahmen sind in der Pipeline.

Wenn Sie mehr über das Thema Der KI-unterstützte Digital Workplace erfahren möchten, empfehlen wir Ihnen unseren Artikel: „Der Digital Workplace powered by KI“.