US-Bundesstaat Utah: KI darf erstmals Medikament verschreiben

Der US-Bundesstaat Utah hat dem Start-up Nolla Health eine regulatorische Ausnahmegenehmigung erteilt, die es einer KI erlaubt, bestimmte Medikamente zu verschreiben. Der Pilotversuch ist auf Erwachsene ab 18 Jahren mit leichter bis mittelschwerer Akne beschränkt. Verschrieben werden dürfen ausschließlich Präparate, die von außen auf die Haut aufgetragen werden. Medikamente, die oral eingenommen werden müssen, sind ausgeschlossen. Auch schwerere Fälle von Akne dürfen mit der KI nicht behandelt werden.

Wie Nolla Health in seinem Blog erläutert, analysiert die Nolla-App das Gesicht der Patienten, wertet einen strukturierten medizinischen Fragebogen aus und stuft die Schwere der Akne ein. Die Behandlungsauswahl trifft anschließend ein LLM aus einem Formular mit acht zugelassenen Optionen. Der gesamte Vorgang soll laut Unternehmensangaben 10 bis 15 Minuten dauern. Die App kostet im Pilotprojekt 4,99 US-Dollar pro Monat.

Stufenweise Lockerung der Arztaufsicht

Die Genehmigung des Utah Office of Artificial Intelligence Policy sieht für den Start der App drei Phasen vor: In der ersten müssen zugelassene Ärzte die ersten 100 Verschreibungen prüfen und freigeben, bevor die Medikamente bestellt werden. Nach Unternehmensangaben habe bei den letzten 1000 Behandlungen ein zugelassener Arzt in rund 96 Prozent der Fälle der KI-Empfehlung zugestimmt.

In der zweiten Phase darf die KI Rezepte direkt an Apotheken übermitteln; Ärzte kontrollieren die Fälle nachträglich wöchentlich. Diese Phase umfasst mindestens 500 Patienten. In der dritten Phase kontrollieren Ärzte dann nur noch jede zehnte Verschreibung. Fälle mit Nebenwirkungen oder Eskalationen werden unabhängig davon vollständig geprüft.

Sicherheitsmechanismen und Berichtspflichten

Die Zulassung schreibt zusätzlich umfangreiche Auflagen vor und läuft zunächst für zwölf Monate. Nolla Health muss regelmäßige Berichte an die Aufsichtsbehörde liefern. Jede schwerwiegende oder unerwartete Nebenwirkung ist innerhalb von 24 Stunden zu melden – darunter Fehldiagnosen, falsche Dosierungen, allergische Reaktionen, aber auch Halluzinationen oder Sicherheitsvorfälle wie Ransomware-Angriffe.

Immer mehr Institutionen lassen KI-Systeme autonom Entscheidungen treffen. In Österreich dürfen Behörden künftig zum Beispiel erstinstanzliche Bescheide vollautomatisiert ohne menschliche Einzelprüfung erstellen – ebenfalls unter Auflagen wie dokumentierter Testphase und Eingriffsmöglichkeiten.