Hallo,
an der Thomas Jefferson Universitätsklinik in Philadelphia, Pennsylvania, USA haben Forscher*innen an der Chirurgischen Klinik untersucht, wie gut Künstliche Intelligenz (KI; engl. Artificial Intelligence = AI) Patientenfragen zu Schilddrüsenkrankheiten beantwortet:
Campbell DJ, et al.
Evaluating ChatGPT Responses on Thyroid Nodules for Patient Education.
Thyroid. 2023 Dec 26. doi: 10.1089/thy.2023.0491. Epub ahead of print. PMID:
38010917.
.
Untersucht wurde die erste Sprach-
KI (Chatbot)
ChatGPT (
Wikipedia). Die Antworten von ChatGPT waren zu ca. 2/3 richtig und die Sprache war auf Hochschulniveau.
In der Studie wurde ChatGPT viermal mit 30 identischen Fragen untersucht und die Antworten wurden in vier Kategorien eingestuft:
- inkorrekt
- teilweise inkorrekt
- korrekt
- korrekt mit Referenzen (Quellenangaben)
Die Referenzen wurden untersucht, ob sie richtig waren. Für die englische Sprache gibt es den Flesch-Kincaid grade level (auf deutsch Lesbarkeitsindex) mit dem bewertet wird, wie gut verständlich der Text ist. Anhand des Flesch-Kincaid grade level wurden die Antworten bewertet.
Die Fragen wurden entsprechen der unterschiedlichen Eingabe beantwortet.
Ein großes Problem sehen die Autor*innen der Studie, dass ChatGPT auch die Dinge erfindet, warum Ärzt*innen ChatGPT ihren Patient*innen [Harald: noch?] nicht empfehlen können.
Meine Anmerkung/Kommentar:
Es gibt inzwischen eine ganze Reihe von großen Firmen wie Google und Microsoft , die zusätzlich zu ihren Suchmaschinen
KI anbieten, oder in die Suchergebnisse integrieren.
Sprach-
KI ist/kann eine große Hilfe beim formulieren von Texten sein, wenn man die richtigen Fragen stellt.
Ich habe ChatGPT auch getestet, in dem ich z.B. Fragen stellte, die eine falsche Grundannahme als richtig voraussetzten. ChatGPT hat die falsche Grundannahme nicht immer erkannt, und auf diese Fragen Antworten gegeben, die sehr überzeugend waren. Informationsblasen wie in der
Corona-Pandemie dürfte es so auch in Zukunft geben und gar verstärkt werden.
Bei Quellen-Angaben hat ChatGPD gerne auch Empfehlungen in
Leitlinien erfunden, was leicht zu überprüfen war (dies muss man allerdings auch tun)
Es ist also nicht die Frage ob Betroffene in Zukunft, auch Sprach-
KI bei Gesundheitsfragen genutzt wird, sondern wie es genutzt wird, und auch wie wir im Allgemeinen und speziell als Selbsthilfe damit umgehen.
Mit Sprach-
KI werden Fragen wie in einem Forum oder auch einer Facebook-Gruppe beantwortet, die Unterscheidung, ob eine reale Person oder eine Maschine antwortet dürfte für die meisten nur noch an Hand von Tipp- und Rechtschreibfehlern zu unterscheiden sein. Auch Tippfehler und Sprache dürften zu programmieren sein, um uns vorzugaukeln, man hätte es mit einem echten Menschen zu tun.
Der
Manipulation über
intransparente Algorithmen in Suchmaschinen wie Google, Bing, Yahoo, …, in Sozialen Medien wie Facebook, Instagram, TikTok, X, Telegram, … wird also ergänzt werden durch intransparente Algorithmen der Sprach-
KI.
Die Autor*innen dieser Studie sehen auch das Problem, dass es sich nicht verhindern lässt, dass Patient*innen
KI benutzen für Gesundheitsinformationen.
Ein Lösungsvorschlag der Autor*innen ist, dass Ärzt*innen ihren Patient*innen die richtigen Fragen mit nach Hause geben. (Quelle:
www.healio.com 31.01.2024)
In Arbeit:
2 Nutzer*innen haben sich für diesen Beitrag bedankt.
