In der Wirtschaft wird KI oft als strategische Chance gesehen, doch es gibt auch große Gefahren. Laut einer Allianz-Studie hat sich Künstliche Intelligenz zu einem der größten Geschäftsrisiken für Unternehmen weltweit entwickelt.
Diese Sau wird auch gerade bei uns durch den Betrieb getrieben. So ein paar Data Analysts zeigen uns gaaaanz tolle Dinge.
Ich frage, wie kann ich denn sicher sein, dass da nichts erfunden wird? Oder kennen die einen Workaround das zu prüfen? Frage wird nicht beachtet. Mr. Elephant.
Ich denke, okay ich probiere mal so eine Kack Maschinenanalyse aus und schaue was die KI so interessantes findet. Eventuell hat das Computerauge einen anderen überraschenden guten Blick.
Nunja, es kam mehr oberflächliches raus. Captain Obvious. Und hing stark von den Daten ab. Also der Datentiefe. Shit in, shit out.
Dann lasse ich mir die Berechnungen alle als Excel ausgeben, um selber noch zu suchen. Und mein Gott: Zweite Zeile direkt ein krasser Rechenfehler und dann noch weitere Zeilen. War so in Richtung 1+1=7.
Keine Ahnung wo das herkam, denn gerechnet wird ja über ein Pythonskript. Aber alles Closed Box, da kann man nicht in die Berechnungen und Rechenschritte reinschauen. Der Umweg über Formeln anstelle Python als Excelformel einfügen geht leider nicht. Zumindest habe ich es nicht hinbekommen.
So eine Qualität gebe ich genau 2mal ab und dann bin ich meinen Job los. Ja, und Chefetage drückt das in den Betrieb rein, weil „produktivitätssteigernd haben sie gesagt.“
Bin mir nicht sicher, ob ich deine Beschreibung richtig verstanden habe, aber i.d.R. ist es so, dass Mathematik zwar schon an traditionelle Rechenlogik übergeben wird, aber das Parametrieren der Logik muss immernoch von der Autovervollständigungsmaschine generiert werden.
Also irgendwo beschreibt man eben, dass wenn Addition gemacht werden soll, dann die add.py aufrufen mit einem JSON im Format:
{"first_value":123,"second_value":456}
Aber wenn es eben “second_value” mit dem falschen Wert autovervollständigt, dann kommt die falsche Mathematik dabei raus.
Gut, und was eben auch passieren kann, ist dass die Anweisung, das Skript zu verwenden, dann doch gelegentlich nicht umsetzt wird. Also dass es dann doch auf eigene Faust versucht “1 + 1 =” zu autovervollständigen.
Und wenn dann irgendwas im Kontext herumgeistert, so dass es die wahrscheinlichste Autovervollständigung von dem Fall bezieht, wo mal “5 + 1 + 1 = 7” stand, dann kommt eben auch das Falsche heraus.
Diese Sau wird auch gerade bei uns durch den Betrieb getrieben. So ein paar Data Analysts zeigen uns gaaaanz tolle Dinge.
Ich frage, wie kann ich denn sicher sein, dass da nichts erfunden wird? Oder kennen die einen Workaround das zu prüfen? Frage wird nicht beachtet. Mr. Elephant.
Ich denke, okay ich probiere mal so eine Kack Maschinenanalyse aus und schaue was die KI so interessantes findet. Eventuell hat das Computerauge einen anderen überraschenden guten Blick.
Nunja, es kam mehr oberflächliches raus. Captain Obvious. Und hing stark von den Daten ab. Also der Datentiefe. Shit in, shit out.
Dann lasse ich mir die Berechnungen alle als Excel ausgeben, um selber noch zu suchen. Und mein Gott: Zweite Zeile direkt ein krasser Rechenfehler und dann noch weitere Zeilen. War so in Richtung 1+1=7.
Keine Ahnung wo das herkam, denn gerechnet wird ja über ein Pythonskript. Aber alles Closed Box, da kann man nicht in die Berechnungen und Rechenschritte reinschauen. Der Umweg über Formeln anstelle Python als Excelformel einfügen geht leider nicht. Zumindest habe ich es nicht hinbekommen.
So eine Qualität gebe ich genau 2mal ab und dann bin ich meinen Job los. Ja, und Chefetage drückt das in den Betrieb rein, weil „produktivitätssteigernd haben sie gesagt.“
Bin mir nicht sicher, ob ich deine Beschreibung richtig verstanden habe, aber i.d.R. ist es so, dass Mathematik zwar schon an traditionelle Rechenlogik übergeben wird, aber das Parametrieren der Logik muss immernoch von der Autovervollständigungsmaschine generiert werden.
Also irgendwo beschreibt man eben, dass wenn Addition gemacht werden soll, dann die
add.pyaufrufen mit einem JSON im Format:{ "first_value": 123, "second_value": 456 }Aber wenn es eben “second_value” mit dem falschen Wert autovervollständigt, dann kommt die falsche Mathematik dabei raus.
Gut, und was eben auch passieren kann, ist dass die Anweisung, das Skript zu verwenden, dann doch gelegentlich nicht umsetzt wird. Also dass es dann doch auf eigene Faust versucht “1 + 1 =” zu autovervollständigen.
Und wenn dann irgendwas im Kontext herumgeistert, so dass es die wahrscheinlichste Autovervollständigung von dem Fall bezieht, wo mal “5 + 1 + 1 = 7” stand, dann kommt eben auch das Falsche heraus.