Cornelia Diethelm

SOOO WICHTIG! 🙋‍♀️ «Die KI berechnet lediglich, welches Wort am wahrscheinlichsten auf das vorangegangene folgt. Die Aussagen eines KI-Assistenten sind also Wahrscheinlichkeiten, keine überprüften Fakten.»

Mit dieser Erklärung von Digitalredaktor Juerg Tschirren, wie grosse Sprachmodelle (LLM) funktionieren, beginne ich jede KI-Schulung und jede Keynote zum Thema künstliche Intelligenz (KI).

Dieses Verständnis ist enorm wichtig, denn es erklärt ganz viele Limiten und unerwünschte Nebenwirkungen, die KI-Tools wie ChatGPT, Claude & Co. haben. Und die wir immer haben werden, auch wenn sie besser werden.

🚨 In einem Experiment von EBU und BBC war zum Beispiel fast jede dritte KI-generierte Antwort fehlerhaft!

🙋‍♀️ Und weil wir User:innen immer für das Ergebnis verantwortlich bleiben, wenn wir ein KI-Tool nutzen, bedeutet dies:

🔎 Wir müssen entscheiden, wo wir diese KI-Tools einsetzen können – und wo nicht. KI ist nicht die Lösung für alles.

🔎 Wir müssen in gute Prompts mit möglichst viel Kontext investieren. Wobei der Einfluss guter Prompts häufig überschätzt wird.

🔎 Wir müssen das Ergebnis überprüfen: Ist es korrekt und entspricht es dem, was wir benötigen und wollen? Hier ist kritisches Denken gefragt.

Wer mehr wissen möchte:

Beitrag SRF: Fast jede dritte KI-Antwort enthält Fehler

https://lnkd.in/d_H5QaNd

Tipps & Hintergrundinfos: Mein Newsletter erscheint 5-6 Mal pro Jahr. Die nächste Ausgabe erscheint bereits nächste Woche. Ihn jetzt zu abonnieren ist also ein guter Zeitpunkt. 😉 💌

https://lnkd.in/dvmDnYZ7

Diese motivierende Rückmeldung auf meinen Newsletter habe ich zum Beispiel gestern erhalten: «Deinen Newsletter habe ich ebenfalls abonniert – gefällt mir, weil er einen anderen Fokus hat als viele andere Newsletter.»

#ki #digitalethics

🚨 Bei solchen Schlagzeilen bin ich immer sehr froh, meine eigene Chefin zu sein. Ich weiss nicht, ob ich heute bereit wäre, meine Expertise und mein Engagement in einem solchen Umfeld zur Verfügung zu stellen. 👩🏻‍💻

Und vergessen wir nicht: Auch hier sind von A bis Z Menschen am Werk.

Menschen bei Microsoft entscheiden, diese neue Funktion anzubieten. Und Menschen in den Unternehmen entscheiden, diese Funktion zu aktivieren. Weil sie den Mitarbeitenden misstrauen, scheint mir ein starkes Motiv dafür zu sein.

Vielleicht sollten Menschen mit einem solchen Menschenbild überlegen, ob sie als Führungskräfte und Entscheidungsträger:innen am richtigen Ort sind. Denn entweder fehlt es an Führungsqualitäten oder am Vertrauen in die eigenen Mitarbeitenden. Beides sind schlechte Voraussetzungen für eine Führungsrolle, so meine persönliche Überzeugung.

https://lnkd.in/gX9T7rcB

#arbeitsplatz #arbeitgeber #ethik

Offenbar testet die NZZ gerade unsere KI-Kompetenz! 😉 Diesen Anwendungsfall nutze ich seit mehreren Jahren in Schulungen und Vorträgen. Denn es ist extrem wichtig, dass wir die Grenzen von KI kennen.

🚨 Mustererkennung

Ein KI-System wird mit ganz vielen Daten trainiert, zum Beispiel mit Porträtfotos, ergänzt um manuelle Hinweise, zum Beispiel ob die Person auf dem Foto extrovertiert ist, welches Hobby sie pflegt etc. Darauf basierend erkennt das System gewisse Muster.

Wenn ich diesem KI-System ein neues Porträtbild gebe, dann ist es einfach ein Bildvergleich mit dem, was das KI-System gelernt hat.

🚨 Korrelation (etwas kommt häufig vor)

Ein KI-System kann zum Beispiel zum Schluss kommen, dass Menschen mit dem Hobby Baseball in den USA mehr Chancen haben, einen Job zu erhalten, als Menschen mit einem anderen Hobby. Weshalb? In diesem Fall gibt es einfach zwei Merkmale – Hobby im Baseball und einen Job haben – die häufig im Datensatz vorkommen (eines von vielen Mustern).

Das eine Merkmale ist nicht die Ursache für das andere Merkmal. Es ist KEINE KAUSALITÄT (keine Ursache Wirkung).

🚨 Wahrscheinlichkeit

KI-Systeme liefern immer mehrere Ergebnisse und mit unterschiedlichen Wahrscheinlichkeiten. Zum Beispiel, dass man mit dem Hobby Baseball zu 83% mehr Chancen auf einen Job in den USA hat, mit dem Hobby Tennis 35% etc. Und diese Wahrscheinlichkeit bezieht sich immer nur auf jene Daten, die das KI-System gelernt hat.

Weshalb ist es ein echtes Problem, wenn KI für Anwendungen eingesetzt wird, wo sie nichts zu suchen hat? Drei Beispiele:

👩🏻‍💻 Vorurteile und Stereotypen

Weil es nur ein Bildabgleich ist, werden alle Menschen falsch eingeschätzt, die im Datensatz nicht vertreten, untervertreten oder zu wenig vertreten sind. Und das sind angesichts der Vielfalt an Menschen ganz schön viele!

👩🏻‍💻 Äusserlichkeiten

Der Bildabgleich führt dazu, dass von Äusserlichkeiten auf den Charakter einzelner Personen geschlossen wird. Zum Beispiel, ob eine Person eine Brille anhat oder wie der Hintergrund des Bildes aussieht. Aussagekraft? 0

👩🏻‍💻 Pseudowissenschaften

Viele KI-Systeme basieren auf Pseudowissenschaften, die uns durch die Hintertüre wieder aufgetischt werden, zum Beispiel die Physiognomie (Face-Reading). Hier hat auch die Wissenschaft eine Verantwortung!

Zum Beispiel lassen sich sexuelle Orientierung, eine kriminelle Neigung, ob jemand lügt etc. nicht aus dem Gesicht ablesen. Leider ist das kein Witz und diese Beispiele zeigt, wie brandgefährlich es ist, wenn wir die Grenzen von KI nicht respektieren.

🙋‍♀️ KI-Systeme haben wahnsinnig viele Stärken. Sie können uns entlasten, unterstützen und unseren Handlungsspielraum erweitern. Was sie nicht können ist, unseren beruflichen Erfolg vorherzusagen oder etwas über unseren Charakter zu sagen.

In meinen Schulungen nutze ich diese wunderbare Recherche von BR, um dieses fragwürdige Beispiel zu thematisieren:

https://lnkd.in/ej9dT5u2

Bild: Artikel in der NZZ von heute