Am 09.01.2024 um 10:44 schrieb Herbert Albrecht:
> Am 09.01.2024 um 09:20 schrieb Dr. Joachim Neudert:
>> Am 09.01.24 um 09:12 schrieb Karl Müller:
>>> Eigentlich will ich nur von A nach B, aber jetzt, mit dieser Ankündigung
>>> von VW, wird das Autofahren wieder zum Vergnügen, selbst im Stau.
>>> Endlich
>>> mal jemand Intelligentes als ständigen Beifahrer und nicht irgendwelche
>>> Nörgler, die ständig "wann geht es endlich weiter" von sich geben
>>>
>>> Ein Automobil mit Künstlicher Intelligenz - da habe ich drauf gewartet
>>>
>>> <
https://www.heise.de/news/Volkswagen-integriert-ChatGPT-in-neue-
>>> Modelle-9590833.html>
>
> Ich finde den Text unter
>
https://www.msn.com/de-de/lifestyle/shopping/volkswagen-integriert-chatgpt-in-neue-modelle/ar-AA1mDXUw. Der obere Link liefert nur Fehler 404, sogar, wenn man ihn repariert.
Funktioniert:
https://www.heise.de/news/Volkswagen-integriert-ChatGPT-in-neue-Modelle-9590833.html
Der Artikel ist aber technisch inhaltsarm.
Der Autor Andere Kramer ist laut seiner Bio Germanist und Historiker.
Das sieht mir irgendwie nach Fachkräftemangel selbst bei
heise.de aus.
> Sagen wir mal: Nützlich. Anstatt 20 Tasten und Hebel auszuprobieren, die
> dann oft etwas ganz Anderes bewirken (oder auch gar nichts, die Funktion
> könne kaputt sein) ein Druck auf die Taste am Lenkrad - und los gehts.
Die "20 Tasten und Hebel" können kaputt sein, aber diese Taste am
Lenkrad nicht? Ach so, es bleibt ja alternativ "Hallo Ida".
> Blinker links
Blinkt dann links. Die Ausgeh-O-Matik schaltet es irgendwann wieder ab.
> Heizung auf 22 Grad
Ida: "Dieses Fahrzeug hat eine Mehrzonen-Klimaanlage. Für welche Zone
möchten Sie 22 Grad?"
Herbert: "Für meine Frau."
Ida: "In welcher Zone sitzt ihre Frau?"
Herbert: "Na neben mir. Diese Karre hier hat mehrere Innenraum-Kameras,
da musst du doch nicht fragen, wo meine Frau sitzt."
Ida: "Keine Passagierin in diesem Fahrzeug entspricht dem gelernten
Aussehen ihrer Frau. Auch über die Gewichtserkennung der Sitzmatten
konnte ich ihre Frau nicht zuordnen. Daher: Auf welchem Platz sitzen Sie
oder Ihre Frau?"
Herbert denkt sich: <F*ck up, Ida.> Sagt aber nix.
Ida: <interne Wartezeit abgelaufen> Außer Ihnen ist nur 1 weiterer
Passagier im Fahrzeug, der ansgeschnallt ist. Ich habe dort die Heizung
auf 22 Grad eingestellt.
Herbert: <denkt sich: Na geht doch, warum nicht gleich so!>
BTW: Die Frau hatte einfach ihre Pudelmütze noch auf. Und einen Rucksack
auf dem Schoß.
Nach einiger Zeit merkt die Frau, dass es da sehr kalt auf der
Beifahrerseite rauskommt.
Frau: "Hallo Ida, warum kommt es denn hier so kalt raus?"
Ida: "Die Isttemperatur in Zone Beifahrer sind 66 Grad. Für eine
Solltemperatur von 22 Grad habe ich den Klimakompressor mit 100% Taktung
aktiviert und die Luftverteilung hinter dem Innenraum-Verdampfer der
Klimaanlage auf die Zone Beifahrer gelenkt, sowie die Ausströmerdüsen
auf 100% geöffnet. So soll die Zieltemperatur möglichst flott erreicht
werden. Ich tue, was ich kann, für Ihr Wohlergehen in Ihrem neuen VW."
Frau: <nimmt ihre Mütze und stopft sie erstmal in die
Ausströmer-Lüftungsdüsen oben. Daraufhin kommt es an den Füßen kalt
raus. Dort stellt sie dann den Rucksack davor>. Das ganze wird halbwegs
erträglich. Aber für ein neues Auto: immer noch enttäuschend.
Herbert: <geht ins Menü, kontrolliert und sieht da -6°C für Zone
Beifahrer. Und wundert sich.> Und regelt dann auf 22°C. Das kommt bei
der Frau nur verzögert an, weil diese ja die Ausströmer oben und unten
geblockt hat. Sie unterhalten sich noch 30 min über das Scheißauto und
Herbert bekommt enen Brass.
Incident Report an VW: Eure Spracherkennung ist scheiße. <Dazu ein
Datenpaket von 50 MB mit den letzten Sprachkommandos, und einem fetten
Bus-Log aller Aktionen im Fahrzeug.>
Incident Management bei VW: kann damit nix anfangen, gibt es weiter an
Problem Mgmt.
Problem Management bei VW plus Spezialisten von Cerence: Brauchen
erstmal einige Wochen, um das Zeug auseinanderzu puzzeln und zu
analysieren. Außerdem haben sie noch 987.458 weitere Incidents mit
ähnlichem Szenario für Spracherkennung, davon 4.636 für die
Temperaturregelung. Nachdem sie sich durch den Berg an Daten
durchgekämpft haben, stellen sie fest: Cerence hat das System so
trainiert, dass Temperaturangaben ohne Einheit auf Grad Fahrenheit
gehen. In den Tests in den USA hat das auch super funktioniert. In die
Trainingsdaten für die Eingabesprache Deutsch hingegen hat man das 1:1
so übernommen, weil eine Übersetzungs-KI einfach nur die
US-amerikanischen Trainingsdaten ins Deutsche übersetzt hat. Die
Einheitenkonvertierung blieb dabei außer Acht, weil Indern und
Kenianern, die das überwachen und an die die Kontrolle outgesourct war,
das wumpe war.
Die angewiesenen "22 Grad" wurden dann also als 22°F interpretiert, und
das sind -6°C. Die Plausibilitätsprüfung über ein Objekt "Mütze" bei der
Frau, hat das auch durchgehen lassen.
Eine Wochen später kommt dann ein Software-Update, das das reparieren
soll. Das Change Ticket dafür wurde in deutsch von einer VW-Abteilung
geschrieben, dann ins englische übersetzt für Cerence. Diese haben es
nach Telugu übersetzen lassen, weil die englischsprachigen Programmierer
in Hyderabad 10 US-$ mehr pro Stunde haben wollen. Die Telugu sprechende
Programmierin mit High-School-Kurs in JavaScript und HTML und einem
Abendkurs in "KI und ChatGPT" will zuerst an der Codebasis, die in Go
geschrieben ist, rumfrickeln. Das verhindert eine Senior Test Engineerin
bei Cerence, indem sie ihren Git-Commit nicht in den Production Branch
im Git-Repo mergen lässt und mahnt an, dass die Trainingsdaten gefixt
werden müssten.
Nun geht das an Data Specialists in Bangalore. Sie wühlen sich nun die
100 GB Trainingsdaten und überlegen sich einen Fix. Nachdem sie in einer
Brainstorming-Session die Alternativen durchgegangen sind, ändern sie
die Trainingsdaten doch nicht (zu aufwändig, zu riskant), sondern nehmen
in die Funktion zum Soll-Temperatur bestimmen als der KI nachgelagerte
Korrekturfunktion eine Einflussvariable vom Ortungsdienst (Location
Service) mit rein. Paar Tester:innen in Südafrika nehmen das ab. Cerence
lässt es in den Production Branch. VW braucht einige Monate, bis sie die
Abnahme erteilen. Das Sw-Update wird ausgerollt.
Irgendwann kommt das neue Release raus. Es trifft 1 Jahr später auf den
VW von Herbert, aus dem das alles kam. Deutsche Kunden sind einigermaßen
happy, haben davor aber die Software in Foren als "komplett unbrauchbar"
verschrien, womit die Absatzzahlen eingebrochen sind.
Zwei Wochen später kommt ein US-Freund zu Herbert. Herbert leiht ihm den
VW. Der US-Freund fährt im Hochsommer nach Neuschwanstein, und sein
erster Sprachbefehl: "Hello Ida, it's terrible in here. Set A/C to 68
degrees." Ida: "OK, set A/C to 68 degrees."
Und Ida: wirft die Wärmepumpe und den el. Heizer an, um die 68°C zu
erreichen. Denn auf dem Anwendungsgebiet Deutschland werden ab nun von
der neuen Software alle Grad-Befehle ohne Einheit intern mit °C ergänzt.
Ein Plausi-Check ist bei 70°C und hat die Zieltemperatur noch durchgehen
lassen.
Mit einem neuen schimpfenden Incident Ticket über die scheiß natürliche
Spracherkennung geht der ganze Apparillo dann von vorne los.
Parallel hat der Einkauf von VW längst schon wieder Knöppe und Taster
bestellt und die Entwicklung ein Facelift umgefrickelt, um dem
Absatzschwund entgegen zu wirken.
1 Jahr später hat man als neue Idee, pro Zielmarkt (oder pro
Eingabesprache?) andere Trainingsdaten zu benötigen, um mehrere
KI-Modelle zu trainieren. Ein Entwicklungs-Team macht sich auf, wie man
das dann für länderübergreifende Fahrten nutzt oder für Mehrsprachigkeit
in einem Land. Eine IT-Ressourcen-Beschaffung bestellt für das MIB der
nächsten Generation 2x soviel CPU-Power, 4x so viel RAM und 8x so viel
Flash-Speicher, um die mehreren KI-Modelle halten und bedarfsweise
laufen lassen zu können.
Die IT mietet 30-fache Server-Kapazität für das Training der Modelle an.
Das Controlling bekommt nen Herzinfarkt, weil sie jetzt neue Knöppe und
Schalter bestellt haben, das neue MIB so teuer wurde, und auch mehr
Cloud-Server-Kapazität für das Training von KI-Modellen bezahlen. Das
Finanzwesen schimpft über die Mehrausgaben, das Marketing muss die
Ausgaben pro VW um 300 EUR erhöhen, damit die operative Marge wieder stimmt.
Ein Jahr später wird in Taiwan eine zentrale Fabrik für Flashspeicher
von chinesischen Mini-Drohnen ausgekundschaftet und dann von Raketen
überraschend angegriffen.
> Licht an
Herbert: Licht an
Ida: Dieses Fahrzeug hat Abblendlicht und Rücklicht, Parklicht,
Fernlicht, Nebelscheinwerfer, Nebelschlussleuchte, Leselicht vor rechts
oder links, Leselicht für die Fond-Passagiere, Ambientelicht,
Kofferraumlicht. Es gibt auch Autobahnlicht, Schlechtwetterlicht,
Tagfahrlicht. Welches Licht meinen Sie?
Herbert: Junge, Junge, das ist aber viel. Das normale Licht halt.
Ida: Ich habe die Lichtautomatik eingeschaltet, und diese hat unter den
jetzigen Umständen Abblendlicht und Rücklicht eingeschaltet. Sie wird
das Licht automatisch wechseln, wenn die Umgebungsbedingungen sich
verändern. Übrigens, dieses Fahrzeug hat adaptive Matrix-Scheinwerfer
für das Abblendlicht. Wollen Sie jetzt die Einstellungen für die
adaptiven Matrix-Scheinwerfer kontrollieren und dann konfigurieren?
Herbert: Nein, verdammt, halt die Fresse. Die Matrix-Dinger sind mir
komplett wumpe. Ich wollte einfach nur das Licht an haben.
Ida: Ich habe Sie leider nicht verstanden. Meinten Sie ein anderes
Licht? Soll ich die Liste wiederholen?
Herbert: $%§%§$%§%§!!!
Natürliche Sprache ist also einfach mal was doofes. Es hat schon einen
Grund, warum Leute in ihren Sprachanweisungen möglichst gleich irgendwie
halbwegs präzise sein sollten.
> Navigiere nach Kirchenstrasse 27.
> <Rückfrage: In Hamburg?>
> Ja, in Hamburg
Orte, die den Namen Hamburg tragen:
https://geheimtipphamburg.de/geheimtipp/orte-die-den-namen-hamburg-tragen-hamburg-around-the-world/
18x in den USA, dazu noch in Kanada, Südafrika, Brasilien, Bolivien,
Suriname, Peru, Schweden, Chile. Ach, und der große Ort in DE ja auch noch.
Hoffentlich gibt es in "Hamburgö, 457 46 Hamburgsund, Schweden", keine
Straße, deren Name sich mit "Kirchenstraße" übersetzen lässt.
> Scheibenwischer langsam
Ida: "Der Regensensor erkennt keinen Regen auf der Scheibe. Möchten Sie
wirklich die Scheibenwischer vorn anschalten? Es droht erhöhter
Verschleiß der Wischerblätter."
Herbert: "Ja, Kruzifix noch'a'mal, jetzt wisch halt und gleich mit
Wischwasser, aber pronto. Da ist Vogelscheiße direkt vor meinen Augen
auf der Scheibe."
Ida: "Ich erkenne Verärgerung in Ihren Worten und Stimmlage. Bitte
erstellen Sie bei Unzufriedenheit ein Support Ticket. Möchten Sie dies
jetzt tun?"
Herbert: "Nein, verdammte Axt. Du sollst endlich mal wischen!"
Ach so , zu der Umleitung an ChatGPT für Fragen, die keine Anweisungen
an die Systeme im Fahrzeug sind:
ein paar Monate später merkt VW dann, wie die Bestellungen an
Neufahrzeugen von Polizei, Bundeswehr, Kommunalbehörden zurückgehen,
weil diese damit einen Datenschutz-Vorfall hatten. Wochen später
bemerkte das eine verschlafene, im Aufbau befindliche Einheit für
Cybersecurity, Monate später kam das bei der Beschaffung an.
Grüße, Ralf
Dr. rer. nat. Dipl-Inf.
<Master of Science - Data Science> in spe
Der beschriebene Wahnsinn oben wird auch wieder mein berufliches
Betätigungsfeld sein. :-D Manche Erfahrung aus der Vergangenheit ist da
anekdotisch mit eingearbeitet.