Sawt Falasteen - Bundestags-Studie erwartet "nicht absehbare Entwicklungen" durch KI-Chatbots

Die Studie des Büros für Technikfolgen-Abschätzung zu den Anwendungsmöglichkeiten und möglichen Auswirkungen von KI-Systemen weist sowohl auf die Chancen als auch auf die Risiken der neuen Technologien hin. So könne Künstliche Intelligenz (KI) "menschliche Tätigkeiten, die mit der Verarbeitung von Texten verbunden sind", in Zukunft "teilweise automatisieren".

Das könne "Entlastungs- bzw. Rationalisierungseffekte" auch in solchen Branchen bedeuten, die von Automatisierung durch neue Technologien "bislang kaum betroffen waren", heißt es. Zudem könne der Einsatz von Chatbots "Verständigung über Sprachen hinweg" fördern und "zur Inklusion beitragen", indem die Kosten für die Übersetzung oder Vereinfachung von Texten verringert würden.

Allerdings seien die von den Systemen erzeugten Informationen "häufig faktisch falsch" - und "durch das Fehlen von Belegen" ließe sich die Korrektheit der Chatbot-Angaben nur schwer überprüfen, wodurch laut Studie "das Vertrauen in die Verlässlichkeit von Informationen im Allgemeinen sinken kann", wird in dem Text auch gewarnt. Würde als Trainingsdatensatz für eine KI womöglich ein mit Vorurteilen behafteter Datensatz verwendet, besteht demnach zudem die Gefahr, dass eine KI Diskriminierung weiterverbreitet.

Ein weiteres Risiko insbesondere im Hinblick auf den KI-Einsatz in der Bildung bestehe darin, dass durch die Nutzung von KI-Anwendungen Ungleichheiten verstärkt werden können: Die effektive Verwendung von Computermodellen zur Sprachverarbeitung setzte nämlich Kompetenzen voraus, die ungleich verteilt und nur unter bestimmten Voraussetzungen zu erwerben seien.

Gehring drang daher darauf, insgesamt sicherzustellen, dass KI-Systeme "Neutralität und Transparenz" wahrten und "mit unseren demokratischen, menschenrechtlichen und ethischen Werten in Einklang stehen". Mit dieser "Grundhaltung" könne KI aber als Instrument in Bildung und Forschung "zum wissenschaftlichen Fortschritt beitragen, mehr Teilhabe ermöglichen, digitale Kompetenzen fördern und bestehende Ungleichheiten abbauen", sagte der Grünen-Politiker.

An diesem Mittwoch ist im Bildungs- und Forschungsausschuss ein Experten-Gespräch über die Auswirkungen von KI auf Bildung und Forschung vorgesehen. Dabei dürfte es auch um möglichen Bedarf für eine staatliche Regulierung gehen.

In der Studie heißt es dazu, es würden diejenigen Regulierungsansätze an Bedeutung gewinnen, "die unerwünschten Entwicklungen Schranken setzen, ohne dabei Innovationen zu behindern". Staatenübergreifende Initiativen auf EU-Ebene - zu denen auch Digitalminister Volker Wissing (FDP) rät - schienen dafür "besonders geeignet".

Z.AbuSaud--SF-PST