Ist Künstliche Intelligenz intelligent?

Künstliche Intelligenz (KI) und unser Umgang mit ihr ist schon seit einigen Jahren ein wichtiges Thema im gesellschaftlichen und wissenschaftlichen Diskurs. Mit dem öffentlichkeitswirksamen Start der frei verfügbaren Anwendung ChatGPT am 30. November 2022 erhielt die breite Öffentlichkeit zum ersten Mal die Möglichkeit, mit einem niedrigschwelligen Zugang die Fähigkeiten KI-basierter Systeme selbst zu erproben und im Alltag zu nutzen. Schon im Januar 2023 erreichte ChatGPT über 100 Millionen Nutzer und war damit die am schnellsten wachsende Verbraucher-App aller Zeiten.1 Künstliche Intelligenz ist in der Mitte der Gesellschaft angekommen. Auch den Lebensmittelsektor hat diese Entwicklung erreicht, wie bereits die Tatsache zeigt, dass die Lebensmittelzeitung beinahe wöchentlich hierzu in wechselnden Zusammenhängen berichtet. Selbst internationale Organisationen wie die WHO nutzen mittlerweile die Funktionen der KI, um die Exposition von Kindern gegenüber Werbung für Tabakprodukte, Alkohol sowie Nahrungsmitteln mit hohen Gehalten an Salz, Transfetten und Zucker zu dokumentieren.2

Die Erzeugung von Lebensmitteln mit Hilfe Künstlicher Intelligenz war bisher eher dem Genre der Science-Fiction vorbehalten. Dort ist der Nahrungsreplikator der USS Enterprise in der Lage, über einen “Proteinumformer” für jedwede an Bord befindliche Lebensform ein reichhaltiges Angebot an Lebensmitteln bereitzustellen. Praktischerweise können Essenreste durch einfache Funktionsumkehr zudem wieder als Rohstoff nutzbar gemacht werden.3 Von diesem technologischen Stand ist die heutige Nutzung von KI in der Lebensmittelbranche (glücklicherweise) weiterhin weit entfernt. Im Mittelpunkt steht derzeit noch die Verbesserung bereits bestehender Prozesse, wie z. B. der Optimierung der Nährstoffversorgung von Pflanzen während des Anbaus, der Sortierung nach festgelegten Qualitätskriterien nach der Ernte sowie der Ermittlung der “Restlaufzeit” eines Produkts in Bezug auf seine Haltbarkeit. Außerdem unterstützen KI-basierte Systeme z. B. die Bedarfsplanung, indem sie mittels Prognosekonzepten (Predictive Analytics) aus langfristigen Verkaufszahlen die Nachfrage für bestimmte Lebensmittel zu bestimmten Tages- oder Jahreszeiten oder an bestimmten Orten vorherzusagen helfen. Die Auswertung geschmacklicher Präferenzen und die Ausrichtung von Geschmacksprofilen an den Erwartungen bestimmter Verbrauchergruppen lässt sich mit Künstlicher Intelligenz genauso verbessern wie die Rezepturentwicklung. Im Servicebereich werden Roboter eingesetzt, um Kunden zu beraten, Burger zu braten oder Pizza zu backen.

Die beschriebenen Anwendungen erscheinen im Vergleich zu den Erwartungen und Befürchtungen, die heute vielfach in Bezug auf Künstliche Intelligenz geäußert werden, doch eher bescheiden. Dennoch werfen sie schon jetzt einige interessanteZLR 2023 S. 443 (444) Rechtsfragen auf. Eine der wichtigsten ist sicherlich, wie viel Autonomie Künstlich Intelligente Systeme besitzen dürfen, welche Entscheidungen weiterhin Menschen vorbehalten sein müssen und wer für die Handlungen eines KI-Systems zivil- und strafrechtlich verantwortlich ist. Denn schon der Blick der Literatur in eine fiktive Zukunft zeigt, dass die Nutzung künstlicher Intelligenz bei der Lebensmittelherstellung nicht ohne Risiken sein dürfte, wie der Versuch des Weltraumreisenden Arthur Dent, sich vom Nutrimatic Drinks Dispenser an Bord des Raumschiffs Heart of Gold einen Tee zubereiten zu lassen, eindrucksvoll illustriert.4 Es wird daher zu klären sein, wer lebensmittelrechtlich verantwortlich ist, wenn der Küchenroboter das Hackfleisch eines Burgers nicht ausreichend durchbrät und dadurch ein Gast wegen noch vorhandener pathogener Keime erkrankt. Auch die Dynamisierung von Preisen durch den Einsatz von Preissetzungsalgorithmen wirft bereits heute die kartellrechtliche Fragestellung auf, inwieweit diese Technologie zu einer algorithmisch verursachten Verhaltenskoordination der Marktteilnehmer führen kann (“algorithmische Kollusion”), wenn alle Beteiligten auf vergleichbare Systeme zurückgreifen, und wie dieser Tatbestand im Lichte des Art. 101 AEUV zu bewerten wäre.5 Weitgehend ungeklärt ist noch, in welchem Umfang sich staatliche Organe bei der Marktüberwachung oder der Entscheidungsfindung im Verwaltungsverfahren KI-basierter Systeme bedienen dürfen. § 35a VwVfG lässt dies grundsätzlich zu. Hier stellen sich insbesondere Probleme des Grundrechts- und des Datenschutzes sowie der Transparenz und rechtsstaatlichen Überprüfbarkeit der mit Hilfe der KI gefundenen Ergebnisse.6 Weitere spannende Fragen sind, ob Künstliche Intelligente Systeme Schöpfer eines Patents oder urheberrechtlich geschützten Werkes sein könnten (von der h. M. aufgrund fehlender Rechtspersönlichkeit und fehlender schöpferischer Tätigkeit der KI verneint) oder wie die Nutzung solcher Systeme bei der Erbringung von Rechtsdienstleistungen nach dem Rechtsdienstleistungsgesetz (RDG) einzuordnen ist.7

Als Hochschullehrer interessiert einen neben den praktischen Anwendungen Künstlicher Intelligenz in Produktion, Logistik und Vertrieb sowie den daraus resultierenden Rechtsfragen natürlich auch die Nutzung in Forschung und Lehre. Können Studierende ihre Prüfungen komplett von ChatGPT schreiben lassen, ohne dass ich es merke? Kann ich zukünftig zumindest einen Teil der mitunter mühsamen Recherche- und Schreibarbeit für Aufsätze und Gutachten an die Künstliche Intelligenz outsourcen? Werde ich bald überflüssig? Was lag also näher, als die mittlerweile wohl berühmteste KI-Anwendung der Welt einmal im “Prüfungschat” auf ihre lebensmittelrechtlichen Kenntnisse zu testen. Zum Aufwärmen wählte ich mit “Was sind die Sicherheitsanforderungen für Lebensmittel in der Europäischen Union?” eine sehr allgemeine Fragestellung. ChatGPT antwortete mir wie folgt:

“In der Europäischen Union müssen Lebensmittel bestimmten Sicherheitsanforderungen entsprechen, um den Schutz der Verbraucher zu gewährleisten. Die wichtigsten Sicherheitsanforderungen für Lebensmittel sind in der Verordnung (EG) Nr. 178/2002 festgelegt, die als Allgemeine Lebensmittelverordnung bekannt ist. Hier sind einige der Hauptpunkte:

Lebensmittelsicherheit: Lebensmittel müssen sicher für den menschlichen Verzehr sein und dürfen keine unmittelbaren oder langfristigen gesundheitlichen Risiken darstellen. Dies umfasst die Vermeidung von Schadstoffen, Toxinen oder Krankheitserregern in Lebensmitteln.

Kennzeichnung: Lebensmittel müssen richtig gekennzeichnet sein, um den Verbrauchern genaue Informationen über ihre Zusammensetzung, Zutaten, Allergene, Nährwertangaben, Verwendungshinweise und Lagerbedingungen zu geben.

Rückverfolgbarkeit: Es muss ein System zur Rückverfolgbarkeit von Lebensmitteln vorhanden sein, um im Falle von Lebensmittelrückrufen oder -problemen die Identifizierung und Rückverfolgung der betroffenen Produkte entlang der Lieferkette zu ermöglichen.

Hygiene: Lebensmittelhersteller müssen angemessene Hygienestandards einhalten, um die Kontamination von Lebensmitteln durch Mikroorganismen oder andere schädliche Stoffe zu verhindern. Dies umfasst die Einhaltung von Hygienevorschriften bei der Produktion, Verarbeitung, Lagerung und dem Transport von Lebensmitteln.

Kontrollen und Überwachung: Die Lebensmittelüberwachungssysteme der Mitgliedstaaten müssen wirksam sein, um sicherzustellen, dass die Sicherheitsstandards eingehalten werden. Regelmäßige Inspektionen, Probenahmen und Analysetests werden durchgeführt, um die Konformität mit den Vorschriften zu überprüfen.

Diese Sicherheitsanforderungen gelten für alle Lebensmittel, unabhängig von ihrer Art oder Herkunft. Sie sollen sicherstellen, dass Lebensmittel in der EU sicher, qualitativ hochwertig und verbraucherfreundlich sind.”

Klingt etwas nach Hochglanzbroschüre der Europäischen Kommission, ist aber im Kern gar nicht so verkehrt, ich hatte ja auch sehr allgemein gefragt. Clever gemacht sind die eingebauten Unschärfen (“einige der Hauptpunkte”, Sicherheitsstandards müssen vorhanden sein, eingehalten und überwacht werden). Dadurch kann keiner dem System vorwerfen, die Information sei unvollständig.

Schief gegangen ist das Ganze dann bei meiner spezifischeren Frage nach den Pflichtangaben für vorverpackte Lebensmittel. Hier unterschlägt ChatGPT die Quid-Angabe und die Füllmenge. Bei der Nährwertkennzeichnung werden nur Energie, Fett, Kohlenhydrate, Proteine und Ballaststoffe ausdrücklich genannt, gefolgt von einem Pauschalverweis auf “andere relevante Nährstoffe”. Auch die rechtliche Einordnung von Cannabidiol-haltigen Lebensmitteln (“Novel Food”) ist eher eineZLR 2023 S. 443 (446) 80/20-Lösung. Und bei der Frage nach der Zulässigkeit von Aussagen zur Krebsvorsorge bei Nahrungsergänzungsmitteln macht mir das System Hoffnung, dass ich diese nach einer positiven wissenschaftlichen Begutachtung durch die EFSA als Health-Claim zugelassen bekommen könnte. Regelrecht ins Schummeln kommt ChatGPT dann bei der Suche nach den Anforderungen der Leitsätze des Deutschen Lebensmittelbuchs an die Beschaffenheit einer Weißwurst. Anstelle von Referenzen auf den Text der Leitsätze bietet es ein Destillat von vermutlich aus einer Vielzahl im Internet verfügbarer Rezepturen identifizierten Gemeinsamkeiten und gibt diese als die Vorgaben des Lebensmittelbuchs aus. Ein klarer Täuschungsversuch, der zum Abbruch der Prüfung führt.

Lebensmittelrechtliche Praxis und Wissenschaft können also zunächst aufatmen: wer selber denkt, ist immer noch klar im Vorteil. Auch der Aufstieg des Roboters von der Küchenhilfe zum Chef de Cuisine erscheint in absehbarer Zeit unwahrscheinlich. Das liegt im Wesentlichen daran, dass es sich bei den heute genutzten Verfahren um Machine Learning-Prozesse handelt, bei denen bestimmte Entscheidungsprozesse in einzelnen Sachgebieten mit Hilfe mathematischer Algorithmen informationstechnisch nachmodelliert werden. Dafür sind große Mengen an Daten in Form von Text, Bildern und Sprache erforderlich, anhand derer das System selbständig die Regeln erlernt, die es zur Findung der zu treffenden Entscheidung benötigt. Bei solchen Analysen sehr großer Datensätze und der Erkennung spezifischer Muster in diesen Daten ist die Maschine dem Menschen deutlich überlegen. KI kann folglich ihre Stärken überall dort ausspielen, wo Entscheidungen auf Mustererkennung, Statistik und Modellbildung und einer umfangreichen Datenbasis beruhen. Es verwundert daher nicht, dass sich insbesondere im Online-Handel, aber auch an Tankstellen, der Einsatz von Preissetzungsalgorithmen (Dynamic Algorithmic Pricing) zunehmender Beliebtheit erfreut. Schlecht schneidet KI dagegen bei der Einordnung von Phänomenen ab, für die es wenig oder keine quantitativen Daten gibt, z. B. der Prognose von sozialen Interaktionen. Auch die Disziplinen autonomes Denken und Abstraktion liegen der zur Zeit angewandten KI nicht besonders, da sie kontextabhängig lernt und ihre Regeln deshalb nicht in völlig andere Zusammenhänge transferieren kann. Es handelt sich bei den heutigen KI-Anwendungen, einer gängigen Kategorisierung in der KI-Forschung folgend, um sog. schwache künstliche Intelligenz. Das System ist immer nur so gut wie die Datenbasis, die ihm als Referenz zur Verfügung steht. Das erklärt auch das durchwachsene Ergebnis meines ChatGPT-Tests zum Lebensmittelrecht. Mit einem ZLR-Abonnement wäre es sicher besser ausgefallen.

Prof. Dr. Martin Holle, Hamburg