Klar, KI steht für künstliche Intelligenz und darf wahlweise auch AI, also Artificial Intelligence geheissen werden. So oder so, der Begriff ist schwierig zu fassen – wohl, weil schon «Intelligenz» nirgends abschliessend definiert ist. Das hindert ihn aber nicht daran, gerade unglaublich hip zu sein.
Klar, KI steht für künstliche Intelligenz und darf wahlweise auch AI, also Artificial Intelligence geheissen werden. So oder so, der Begriff ist schwierig zu fassen – wohl, weil schon «Intelligenz» nirgends abschliessend definiert ist. Das hindert ihn aber nicht daran, gerade unglaublich hip zu sein.
Vom Spamfilter über die Zahnbürste bis zum Erkennungssystem für Staatsfeinde – nix scheint mehr ohne KI zu gehen, zumindest aus Sicht der Marketingabteilungen. Ein wenig komplizierter wird es, wenn man die Nutzenden fragt. Die konsumieren sie zwar fleissig, doch oft mit Unbehagen. Das liegt sicher auch an den unzulänglichen Ergebnissen, die sie zuweilen liefert. Viel schlimmer indessen ist, dass die Menschen ihr nicht trauen. In einer Studie von Pegasystems etwa gaben gut zwei Drittel der Befragten an, dass sie einem Menschen mehr vertrauen als einer KI und dass sie ersterem auch eher die Wahrheit anvertrauen würden. Das stammt notabene nicht aus der technophoben Ecke, sondern von einer Firma, die selbst KI anbietet.
Wo kommt dieses Misstrauen her? Zum einen erleben viele die KI als Blackbox, die für sie nicht nachvollziehbare Ergebnisse liefert. Hier spielt also die an sich gesunde menschliche Skepsis allem gegenüber, was nicht ansatzweise zu verstehen ist. Zum anderen fragt man sich, was denn mit den Daten passiert, die man beim Interagieren mit der KI hinterlässt. Das wiederum ist ein Resultat des schwindenden Vertrauens insbesondere in Techfirmen, deren Geschäftsmodell die Monetarisierung von Nutzerdaten ist. Das Toxische daran: Ohne Gegensteuer können sich hier das Misstrauen gegenüber einer Technik und jenes gegenüber Firmen, die sie einsetzen, gegenseitig hochschaukeln.
Wer die Nutzenden mit KI abholen will, sollte also zweierlei tun: Zum einen erklären, worauf sie aufbaut und was sie im Hintergrund anstellt, zum anderen, was mit den Daten geschieht, die dabei gesammelt werden. Beides ist an sich nicht neu, wird aber im glühenden Enthusiasmus oft vergessen.
Veröffentlicht in: Netzwoche Ausgabe 4, 2022
Wir freuen uns, von Ihnen zu hören.
Owner, Expert Consultant
Dr. Christopher H. Müller, founder and owner of Ergonomen Usability AG, earned his PhD from the Institute for Hygiene and Applied Physiology at ETH Zurich. With over 22 years of experience, he is an expert in usability and user experience. His strong sense of empathy allows him to quickly understand the needs and perspectives of his clients. With creativity and courage, he supports his clients in their digitalization projects and the optimization of products, services, and processes. He takes a practical approach, developing tailored solutions that can be effectively implemented. Dr. Christopher H. Müller is a columnist for Netzwoche. He also serves as a board member for the Zugang für alle Foundation, and is a member of two Swico advisory boards and co-president of the Regional Conference Nördlich Lägern.
