Die KI-Tools, die Arztgespräche im britischen öffentlichen Gesundheitsdienst (NHS) anhören und transkribieren, machen schwerwiegende Fehler, indem sie Medikamentennamen und Diagnosen verwechseln. Diese Situation setzt Patienten im öffentlichen Gesundheitssystem des Vereinigten Königreichs einem erheblichen Risiko aus.
Die identifizierten Fehler umfassen Änderungen an Medikamentennamen und Diagnosen, was zu falschen Behandlungen führen und putting patients at risk schwerwiegender gesundheitlicher Komplikationen führen kann.
Der NHS setzt diese KI-Tools ein, um die Transkription von Arztgesprächen zu automatisieren, aber die festgestellten Probleme werfen erhebliche Bedenken hinsichtlich der Patientensicherheit und der Zuverlässigkeit dieser Technologie im klinischen Kontext auf.
Experten warnen, dass KI zwar die Effizienz bei der medizinischen Dokumentation steigern kann, es jedoch unerlässlich ist, menschliche Überprüfungssysteme zu implementieren, um die Genauigkeit der Transkriptionen zu gewährleisten, bevor klinische Entscheidungen auf der Grundlage dieser Informationen getroffen werden.
