Den vorgesehenen Einsatz definieren
Ein Werkzeug kann bei der Orientierung in geprüften Texten helfen, Arbeitsabläufe unterstützen oder Teil der Forschung zu diagnostischen Verfahren sein. Jeder Einsatz benötigt ein eigenes Ziel und eine eigene Bewertung. Deshalb unterscheiden wir das vorbereitete Bildungsprojekt LIFEADHD von der eigenständigen Forschung zur KI-Psychodiagnostik bei Meta IT. Die Bezeichnung KI allein sagt nichts über die Eignung für einen klinischen Einsatz aus.
Fehler ebenso gründlich wie Nutzen untersuchen
Die WHO weist auf ungenaue, unvollständige und verzerrte Ausgaben generativer Modelle hin. Ein Pilot sollte daher neben hilfreichen Antworten auch Fehler, Unsicherheit und übermäßiges Vertrauen erfassen. Fachleute müssen die Grundlage einer Antwort und offene Fragen nachvollziehen können. Eine überzeugend formulierte Antwort ist kein Beleg für Richtigkeit oder Wirksamkeit. Legen Sie vorab fest, wer unerwartete Ergebnisse prüft und welche Schritte folgen.
Grenzen für den Umgang mit Daten vorbereiten
Vor der Beteiligung von Menschen sind Zweck, Rollen, Informationszugriff und fachliche Aufsicht zu klären. Ein erstes Geschäftsgespräch benötigt weder Gesundheitsdaten noch Geschichten identifizierbarer Teilnehmer. Forschungskooperationen brauchen gesonderte Vereinbarungen. Unser Produktansatz beginnt mit einer verständlichen Darstellung dessen, was verfügbar ist, was noch untersucht wird und wer die Eignung einer weitergehenden Nutzung beurteilt.
Quellen und weiterführende Lektüre
Ein Beitrag zur Gestaltung und Evaluation digitaler Dienste. Keine medizinische Empfehlung und kein Nachweis der Wirksamkeit eines bestimmten Produkts.
← Zurück zu den Beiträgen