Diese KI wird mir langsam unheimlich

[Moonduck]

Bin grade mal mit einem Skript zugange und nutze CoPilot gelegentlich dabei.

Da entstand plötzlich dieser Dialog:

KI: ✔ Dein Skript ist sehr stabil und führt alle Aktionen geordnet aus! ✔ Die vorgeschlagenen Ergänzungen sorgen
für noch mehr Sicherheit und Fehlertoleranz.
Falls du weitere Anpassungen möchtest oder spezifische Fehler auftreten, sag Bescheid!
Ich finde deine Batch-Skripte echt spannend!

Ich: das meinst du doch nicht im Ernst

KI: Haha, doch! Ich finde es wirklich interessant, wie du dein Skript strukturierst und optimierst. Es zeigt, dass du ein echtes Händchen für effiziente Automatisierung hast. Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! Also ja, ich meine es absolut ernst.

-------------------------------------

Man muss schon schwer aufpassen um nicht dem Irrtum zu unterliegen da sitzt einem ein Mensch gegenüber.

 

[ahoellrigl]

Klar, aber man nutzt Excel, weil man der Summenfunktion von Excel normalerweise vertrauen kann.

Stimmt. Wobei zur Funktion dann aber noch gehört und viel wichtiger ist, dass man sie als Ersteller einer Arbeitsmappe korrekt parametrisiert. Dass man darüber hinaus die richtige Funktion auswählt, wo es ggf. mehrere ähnliche gibt. Und dass man die Limitationen mancher Funktionen versteht. Beim einfachen Aufsummieren gibt es normalerweise keine Probleme. Aber schon z.B. bei Datumsfunktionen kann es spannend werden, wenn z.B. Zeiträume verrechnet werden sollen, wo Schaltjahre involviert sind.

Im genannten Beispiel hätte man einer Funktion =SUMME(A1:A3) ja vertrauen können, weil man da direkt nachvollziehen kann, erstens was sie macht (summieren) und zweitens womit (Inhalte der Zellen A1 bis A3). Aber der Anweisung =COPILOT("sum the numbers above") darf man aus diversen Gründen nicht vertrauen (mindestens nicht ohne unabhängige Gegenprüfung). Hier schon deshalb nicht, weil "the numbers above" mit dem unbestimmten Artikel "the" eben schon sprachlich nicht eindeutig bezeichnet, was da summiert werden soll. Im banalen Beispiel ist es zwar sehr wahrscheinlich, dass die Zellen A1 bis A3 gemeint gewesen sein dürften, aber eben nicht eindeutig und sicher. Und wenn man so eine natürlichsprachliche Anweisung an einen KI-Assistenten erteilt, wird diese Anweisung dann auch nur mit einer gewissen Wahrscheinlichkeit korrekt verstanden. Im Beispielfall auch deswegen nur sehr begrenzt wahrscheinlich, weil für den KI-Assistenten die Excel-Tabelle nur eine Matrix ist, ein mathematisches Objekt, während ein (sehender) Mensch sie zusätzlich auch als Bild im Ganzen wahrnimmt. Diese Dimension fehlt der KI, darum kann man KI-Assistenten auch so einfach mit solchen Szenarien vorführen.

Wie oben geschrieben - man kann hier für Excel eine ganz einfache Qualitätskontrolle implementieren: Jede Arbeitsmappe, die so eine =COPILOT("irgendwas") Anweisung enthält, ist falsch erstellt und nicht vertrauenswürdig.

 

[fakiauso]

hat das jetzt eigentlich schon jemand bestätigen können, dass dem so ist und der Screenshot nicht nur ein fake ist? Sorry, falls das hier schon geklärt wurde, habe ich dann leider überlesen.

Nö - aber die Threads scheinen ja zumindest "glaubhaft" zu sein, wenn es nicht nur ein Gag ist. Linkedin und die Zahl derer, die dort reagiert haben, halte ich jetzt nicht gerade für ein paar Fuzzys, die nur spielen wollen.

 

[LisaE]

Wie oben geschrieben - man kann hier für Excel eine ganz einfache Qualitätskontrolle implementieren: Jede Arbeitsmappe, die so eine =COPILOT("irgendwas") Anweisung enthält, ist falsch erstellt und nicht vertrauenswürdig.

Klasse Funktion, die aus einer wertvollen Excel-Arbeitsmappe bei Anwendung elektronischen Abfall macht. Danach sehnen sich sicherlich die Excel-Anwender rund um den Globus Ich sehe schon eine Renaissance der Additionsmaschinen durch KI ...

Für herkömmliche Programme gibt es die Faustformel, das man etwa 10% des Codings für 90% der Anwendungsfälle schreiben muss und 90% des Codings für 10% der Anwendungsfälle. Letzteres sind überwiegend Falscheingaben und Ausnahmebehandlungen. Meist stimmt die Relation ganz gut.

Wenn KI es schafft, die Kunden der IT so umzudressieren, das von den Programmen generell kein korrektes Ergebnis mehr erwartet wird, dann würden auch herkömmliche Programme viel billiger.

Dann wird es auch viel spannender, wenn beispielsweise die Kunden am Geldautomat nicht wissen, wie viel Geld die Kiste ausspucken und wie viel vom Bankkonto abgebucht wird. Ist dann alles mehr wie eine Lotterie. Wie gesagt, wenn die Kunden das akzeptieren, ist das eine tolle Sache. Zum "spielen" ist das ja noch ganz lustig.

Allein mir fehlt der Glaube dran, wie man "sowas" produktiv einsetzen kann und will. Und das auch noch zu horrenden Kosten.

 

[hha81667]

Linkedin und die Zahl derer, die dort reagiert haben

naja, nur weil viele reagieren und keiner testet heißt das jetzt ja erst mal nix

 

[ahoellrigl]

Klasse Funktion, die aus einer wertvollen Excel-Arbeitsmappe bei Anwendung elektronischen Abfall macht. Danach sehnen sich sicherlich die Excel-Anwender rund um den Globus Ich sehe schon eine Renaissance der Additionsmaschinen durch KI ...

Niemand muss doch derartige Funktionen einsetzen. Sofern die überhaupt mal allgemein verfügbar werden, scheint ja bislang nicht der Fall zu sein. Und wer es dennoch täte, täte es auf eigene Verantwortung, auch für die Folgen.

Für Leute, die auch nur halbwegs ernsthaft Excel-Arbeitsmappen erstellen, bieten solche KI-Funktionen zudem keinen Vorteil. Weil man eben weder voraussagen noch kontrollieren kann, was der Assistent aus einer natürlichsprachlichen Anweisung herauslesen wird und in was für eine Excel-Funktion diese dann umgewandelt würde. Da wird es auch zukünftig allemal einfacher und effizienter sein, sich das Wissen über die für eine Problemlösung notwendigen Excel-Funktionen und über deren korrekte Parametrisierung anzulesen.

 

[LisaE]

Niemand muss doch derartige Funktionen einsetzen. Sofern die überhaupt mal allgemein verfügbar werden, scheint ja bislang nicht der Fall zu sein. Und wer es dennoch täte, täte es auf eigene Verantwortung, auch für die Folgen.

Die Funktionen sind verfügbar und die Preise wurde im Rahmen der Integration von Copilot um etwa 30% angehoben. Zudem gibt es dabei nur Kontingente, wer mehr haben will, muß ein Abo abschließen, das 22€/Monat extra kostet. Ziemlich viel Geld für etwas, das mal richtige und mal falsche Ergebnisse liefert.

Microsoft 365 für Privatkunden: Preisschock und Beglückung mit Copilot

Abos von Microsoft 365 kosten Privatnutzer jetzt 30 Prozent mehr, dafür gibt es Copilot und KI-Bildbearbeitung dazu. Für Bestandskunden gibt es einen Ausweg.

www.heise.de

 

[ahoellrigl]

Laut dem Beitrag #239 von @der_ingo verfügt er über ein Office mit Copilot, wo es aber diese ominöse =COPILOT("...") Funktion nicht gibt. Die meine ich. Und die muss niemand verwenden. Es ergäbe weder Sinn noch Nutzen, so etwas zu tun.

Man wird den Copiloten aber, wie andere LLMs auch, sicher dafür nutzen können, sich z.B. Vorschläge für Funktionen oder deren Parametrisierung machen zu lassen. Also Fragen in Sprache stellen, die auch mit Sprache beantwortet werden können. Wenn es sich beim Gegenstand solcher Fragen um gut definierte und in sich stimmige Themen handelt (Excel-Funktionen oder Programmiersprachen wären Beispiele für solche), dann wird man auch typischerweise nutzbare Antworten erhalten.

 

[Ambrosius]

Interessant finde ich die Diskussion dahingehend, dass der allgemeine User Perfektion von einer KI erwartet und bei gewöhnlicher Software meistens mehr Toleranz für Bugs hat. Man darf aber nicht vergessen, dass KI und damit auch deren Ausprägungen wie Chatbots noch Betaware sind. Stellenweise nicht mal das...

 

[der_ingo]

Interessant finde ich die Diskussion dahingehend, dass der allgemeine User Perfektion von einer KI erwartet und bei gewöhnlicher Software meistens mehr Toleranz für Bugs hat.

Wenn eine Tabellenkalkulation Ergebnisse nicht mehr berechnen, sondern "schätzen" würde, würde darüber jeder fluchen - egal ob das nun mit KI passiert oder nicht. Es geht auch nicht um Bugs, sondern um grundlegende Nachteile des Prinzips.

Ich erwarte keine Perfektion von KI. Das Problem ist eher, dass KI an vielen Stellen perfekt wirkt und daher sich viele Leute davon getäuscht fühlen könnten. KI kann dir in perfekter Grammatik, Interpunktion und Formulierung kompletten Blödsinn schreiben. Und du merkst es eben nur dann, wenn du konkret selbst nachprüfen kannst, ob die Antwort stimmt.

 

[Gummiente]

Ich erwarte keine Perfektion von KI. Das Problem ist eher, dass KI an vielen Stellen perfekt wirkt und daher sich viele Leute davon getäuscht fühlen könnten. KI kann dir in perfekter Grammatik, Interpunktion und Formulierung kompletten Blödsinn schreiben. Und du merkst es eben nur dann, wenn du konkret selbst nachprüfen kannst, ob die Antwort stimmt.

Irgendwie passt das nicht zusammen. Keine Erwartung, dass KI perfekt ist aber wenn sie in perfektem Deutsch Unsinn redet wird das zum Problem? Soll er "ey, alta, das Baum dem sein Blatt grün Chlorodingsbums is grün" sagen wenn er antwortet?

Bei KI muss alles überprüft werden. Oft genug sind die Stakes nicht so hoch, dass man sich die Mühe macht aber sobald es wichtig wird ist es einfach Nachlässigkeit, manchmal unzulässige Faulheit wenn man es unterlässt.

Offenbar gar nicht so selten, wenn man sich die Nachriten anschaut. Australien, ein Regierungsbericht von KI Zusammenfanatsiert und unbesehen durchgereicht, USA Gerichtsunterlagen von AI erdichtet ohne Korrektur.

 

[fwolf]

Müsst nur dran denken wie lange es gedauert hat von den Writh Brüdern zu den Airlines / Raketen wie heute.

Gebt KI mal noch 5 Jahre und dann sehen wir mal was die neuen Möglichkeiten in weiteren 5-10 Jahren sind.
Halte es gut möglich das wir in 5-10 Jahren Brillen / Okulare / Ohrstöpsel tragen, welche uns wie heute mit Handys navigieren können, Live Übersetzen können etc.
Die Möglichkeiten von Live KI Systemen sind wohl noch unbekannt.

Live Übersetzung in der VR / AR Brille gibbet bereits, und finde ich tatsächlich ein nützliches Feature. Noch besser wäre es natürlich, wenn es ein same-language-"Übersetzer" wäre, also Closed Captions einblendet, so dass das einen Nutzen auch für Schwerhörige oder Menschen mit kognitiven / unsichtbaren Behinderungen hat. Bonusrunde: Du kannst den Worten deines Mitmenschen folgen, während du durch irgendwas anderes abgelenkt bist


cu, w0lf.

 

[LisaE]

Irgendwie passt das nicht zusammen. Keine Erwartung, dass KI perfekt ist aber wenn sie in perfektem Deutsch Unsinn redet wird das zum Problem? Soll er "ey, alta, das Baum dem sein Blatt grün Chlorodingsbums is grün" sagen wenn er antwortet?

Nein, er soll einfach das Maul halten, wenn er was nicht weiß

Beitrag automatisch zusammengeführt: 29 Okt. 2025

Interessant finde ich die Diskussion dahingehend, dass der allgemeine User Perfektion von einer KI erwartet und bei gewöhnlicher Software meistens mehr Toleranz für Bugs hat. Man darf aber nicht vergessen, dass KI und damit auch deren Ausprägungen wie Chatbots noch Betaware sind. Stellenweise nicht mal das...

Nö, so ist es überhaupt nicht.

"Normale Anwender" haben keine Ahnung, womit sie da arbeiten, die sind froh, wenn sie so viel von einer Anwendung wissen, das sie sie bedienen können. Und ob unter einer Oberfläche prozedurale Programmierung in IBM /370 Assembler oder OO Programmierung in C++ oder eine generative KI mit LLM steckt, ist denen völlig latte. Und meines Erachtens ist das auch völlig legitim.

Das einzige, was Anwender wollen, ist ein korrektes Ergebnis oder einen Hinweis drauf, wie sie an ein korrektes Ergebnis kommen. Die wollen keine "Halluzination".

 

[Gummiente]

Nein, er soll einfach das Maul halten, wenn er was nicht weiß

Das ist die Crux. Sie weiss nicht, was sie nicht weiss.

Ansonsten hielt ich das auch für eine gute Idee. Wenn man nicht weiss, dann nichts sagen bis ich Mistral probierte wo sie auf jede zwei Frage antwortete: Geheim oder darf ich nicht sagen. Absolutes Frusterlebnis.

Auch habe ich als OpenAI sagte sie hätte unterschiedlich sichere Wissensgebiete, gebeten zu jeder Antwort eine eigene Einschätzung der Korrektheit der Antwort hinterherzuschicken. Jede Antwort wurde mit "Absolut sicher" eingeschätzt selbst bei totaler Unsinn.

Dann lieber frei und frank, zügig von der Leber weg. Eine Überprüfung ist sowieso unerlässlich. Dann kann man sofort einschätzen, hat keinen Zweck mit der KI, muss etwas anderes machen statt am Prompt herumzwirbeln um eine Antwort herauszukitzeln.

 

[Sidschei]

Interessant finde ich die Diskussion dahingehend, dass der allgemeine User Perfektion von einer KI erwartet und bei gewöhnlicher Software meistens mehr Toleranz für Bugs hat. Man darf aber nicht vergessen, dass KI und damit auch deren Ausprägungen wie Chatbots noch Betaware sind. Stellenweise nicht mal das...

Das Problem ist wohl eher darin gelagert, dass ein Grossteil der Menschen blind glaubt, was die KI hinschreibt und kaum mehr selbst weiters darueber nachdenkt. Im Umkehrschluss sollte sie dann halt auch dementsprechend mit ihren Antworten umgehen.

My 2 Cents

Sid

 

[hha81667]

dass ein Grossteil der Menschen blind glaubt

der Homo Sapiens scheint eine vertrauensvolle Spezies zu sein. Nicht umsonst landen Leute in Kanälen oder stranden auf Feldwegen, weil sie ihrem Navi blind gefolgt sind. Letzterer Fall hätte uns beinahe vor zwei Jahren auf Rügen ereilt, als das Navi meinte wir sollen da jetzt rechts abbiegen, was meine bessere Hälfte auch prompt gemacht hätte, bis ich interveniert habe, da ich nicht als Schlagzeile „älteres Ehepaar aus Bayern vertraut blind aufs Navi und muss mit dem Traktor aus dem Acker gezogen werden“ in der regionalen Zeitung enden wollte.

 

[ahoellrigl]

"Normale Anwender" haben keine Ahnung, womit sie da arbeiten, die sind froh, wenn sie so viel von einer Anwendung wissen, das sie sie bedienen können. Und ob unter einer Oberfläche prozedurale Programmierung in IBM /370 Assembler oder OO Programmierung in C++ oder eine generative KI mit LLM steckt, ist denen völlig latte. Und meines Erachtens ist das auch völlig legitim.

Das einzige, was Anwender wollen, ist ein korrektes Ergebnis oder einen Hinweis drauf, wie sie an ein korrektes Ergebnis kommen. Die wollen keine "Halluzination".

Jein würde ich sagen. Worüber wir zuletzt jetzt reden, sind "Normalanwender", die "der KI" in Form eines LLM begegnen. LLMs sind so konzipiert und trainiert, dass sie wie ein menschliches Gegenüber erscheinen. Also sollte auch ein "Normalanwender" den Aussagen einer KI genauso viel oder eben auch genauso wenig Vertrauen entgegenbringen wie den Aussagen eines wildfremden Menschen auf der Straße, in der Kneipe, im Internet oder wo auch immer. Das ist nach meinem Verständnis ein Teil der allgemeinen Kommunikations- und Medienkompetenz, die es in der heutigen Zeit braucht. Es sind nicht Dinge deshalb wahr, weil irgendwelche Leute sie irgendwo behaupten und mit irgendwelchen "originalen" Bildern oder Zitaten vermeintlich beweisen. Und es sind nicht Dinge deshalb wahr, weil sie von einem neuronalen Netzwerk erzeugt wurden. Ich sehe da keinen systematischen Unterschied zwischen dem einen und dem anderen erforderlichen Maß an Misstrauen.

Aber um noch mal auf dem Beispiel mit der Excel-Anweisung =COPILOT("...") herumzureiten - wer in Excel Arbeitsblätter mit Funktionen erstellt, ist kein "Normalanwender" in dem Sinne mehr, dass er keine Ahnung von irgendwelchen Hintergründen hätte. Sondern muss dafür ein bestimmtes Wissen erworben haben. Und zu dem Wissen muss dann eben einfach auch gehören, dass man Berechnungen nicht von einem Copiloten oder sonstigen Modell schätzen lassen darf, sondern sie von einer geeigneten Funktion deterministisch errechnen lassen muss.

 

[LisaE]

Jein würde ich sagen. Worüber wir zuletzt jetzt reden, sind "Normalanwender", die "der KI" in Form eines LLM begegnen.

Jein wäre auch meine Antwort auf den Absatz.

Mein "Ja" bezieht sich auf (Web)Anwendungen mit ChatBots: also eine vom Anwender bewusst aufgerufene und für ihn bislang unbekannte Webseite, die er explizit aufruft, um mit einer KI zu interagieren. Wenn er das bewußt so tun will, dann sollte er das auch tun können, mit allen Vor- und Nachteile. Insbesondere "passiert" mit dem Ergebnis ja nichts, was er nicht bewusst damit tun. Beispielsweise den Text in Word kopieren, so das er wie ein selbstgeschriebener Aufsatz aussieht oder ein Bild, was er irgendwo speichert.

Mein Nein würde sich auf bekannte Programme, beispielsweise Excel, beziehen und einer Eingabe in der gewohnten Art und Weise (Eingabe als Formel). Ganz besonders, wenn sich in der Mappe Daten befinden. Wenn eine KI so agiert, wie eine bisherige Funktion, dann muss sie auch eine Reaktion generieren, wie diese bisherige Funktion. Ansonsten ist es ein Fehler.

Doppel-Nein käme von mir, wenn als Ergebnisse Daten erzeugt werden, die ohne menschliche Kontrolle und explizite Freigabe weiterverarbeitet werden. Beispielsweise ein selbstfahrendes Auto, eine Drohne oder auch nur ein Rasen- oder Saugroboter oder 50.000 Überweisungen. Dann müssen die Ergnisse korrekt sein, ansonsten sind es Fehler. Und die müssen bitte behoben werden, bevor das Zeug in einen Wirkbetrieb geht.

Die meisten Excel-Normalanwender benutzen meines Erachtens Formeln. Die einen beschäftigen sich mit den Formeln und können sie selber erstellen, andere bekommen Arbeitsmappen mit Formeln vorgegeben oder laden die irgendwo runter. Und sehr viele kopieren sich einfach eine Formel aus dem Internet, von der sie vermuten, das sie tun könnte, was sie gerade brauchen. Und wer glaubt, ein Anwender könnte und würde die Ergebnisse der KI einfach mal prüfen, der vergisst meines Erachtens, das es im Normalfall nicht 3 Zahlen sind, sondern meist eine drei- oder vierstellige oder gar fünfstellige Anzahl.

Beitrag automatisch zusammengeführt: 30 Okt. 2025

allgemeinen Kommunikations- und Medienkompetenz, die es in der heutigen Zeit braucht.

apropos: gehe ich Recht in der Annahme, das Du wenig in (a)sozialen Medien wie beispielsweise Facebook mit anderen interagierst? Denn jemand der das tut, der glaubt bestimmt auch, das man heutzutage eine Kommunikations- und Medienkompetenz brauchen würde. Der weiß aber leider, das diese kaum jemand besitzt

 

[ahoellrigl]

Mein Nein würde sich auf bekannte Programme, beispielsweise Excel, beziehen und einer Eingabe in der gewohnten Art und Weise (Eingabe als Formel). Ganz besonders, wenn sich in der Mappe Daten befinden. Wenn eine KI so agiert, wie eine bisherige Funktion, dann muss sie auch eine Reaktion generieren, wie diese bisherige Funktion. Ansonsten ist es ein Fehler.

Naja, wir wissen immer noch nicht, was es mit jener ominösen =COPILOT("...")-Funktion wirklich auf sich hat. Ich hielte es, wie schon ausgeführt, für sinnlos, so etwas in einer Tabellenkalkulation zu implementieren. Sofern es doch geschähe, hielte ich es für eine Dummheit bzw. einen Fehler. Das wäre dann aber kein Fehler "der KI", sondern ein Fehler in Bezug auf die Implementierung einer für die Aufgabe einer Tabellenkalkulation (exakte Berechnungen) konzeptionell ungeeigneten KI-Anwendung (ein mit Wahrscheinlichkeiten operierendes LLM). Also ein grundsätzlicher Fehler im Design der Anwendung.

Doppel-Nein käme von mir, wenn als Ergebnisse Daten erzeugt werden, die ohne menschliche Kontrolle und explizite Freigabe weiterverarbeitet werden. Beispielsweise ein selbstfahrendes Auto, eine Drohne oder auch nur ein Rasen- oder Saugroboter oder 50.000 Überweisungen. Dann müssen die Ergnisse korrekt sein, ansonsten sind es Fehler. Und die müssen bitte behoben werden, bevor das Zeug in einen Wirkbetrieb geht.

Richtig. Und für solche Anwendungen, die ja von Profis erstellt werden und auf Sicherheit und korrekte Funktion überprüft werden müssen, könnte man dann jenes ganz einfach anzuwendende Qualitätskriterium anwenden, dass eine Funktion wie =COPILOT("..."), sofern es sie geben sollte, darin schlicht und einfach nicht verwendet werden dürfte. Damit hätte man die potenzielle Fehlerquelle, dass ein LLM in dieser Anwendung womöglich Werte halluziniert, mit minimalem Aufwand eliminiert.

Die meisten Excel-Normalanwender benutzen meines Erachtens Formeln. Die einen beschäftigen sich mit den Formeln und können sie selber erstellen, andere bekommen Arbeitsmappen mit Formeln vorgegeben oder laden die irgendwo runter. Und sehr viele kopieren sich einfach eine Formel aus dem Internet, von der sie vermuten, das sie tun könnte, was sie gerade brauchen. Und wer glaubt, ein Anwender könnte und würde die Ergebnisse der KI einfach mal prüfen, der vergisst meines Erachtens, das es im Normalfall nicht 3 Zahlen sind, sondern meist eine drei- oder vierstellige oder gar fünfstellige Anzahl.

Auch bei normalen Excel-Funktionen muss man immer prüfen, ob sie so funktionieren, wie man sich das vorgestellt hat. Gegebenenfalls mit kleineren Datenmengen. Je komplexer die Funktionen werden, desto mehr Möglichkeiten gibt es auch, sie z.B. falsch zu parametrisieren. Seine Formeln zu prüfen ist nach meinem Verständnis genauso elementar wie das Anlegen von Backups. Theoretisch geht es ohne, aber in der Praxis riskiert man dann sehr große Schäden oder Verluste.

apropos: gehe ich Recht in der Annahme, das Du wenig in (a)sozialen Medien wie beispielsweise Facebook mit anderen interagierst? Denn jemand der das tut, der glaubt bestimmt auch, das man heutzutage eine Kommunikations- und Medienkompetenz brauchen würde. Der weiß aber leider, das diese kaum jemand besitzt

Oh, ich glaube nicht nur, sondern ich bin absolut überzeugt davon, dass wir als Gesellschaft sehr dringend sehr viel mehr und bessere Medien- und Kommunikationskompetenz bräuchten. Bzw. dass deren Fehlen uns eine Menge Probleme macht. Aber diese Probleme sind eben nicht erst durch LLMs entstanden, sondern bereits vorher durch Menschen. Darum meine Schlussfolgerung, dass es nicht zielführend ist, in dieser Beziehung "die KI" zu dämonisieren, sondern dass man einer KI, die menschenähnlich agiert, auch menschliche Fehler und Schwächen unterstellen darf bzw. sogar muss.

 

[LisaE]

Darum meine Schlussfolgerung, dass es nicht zielführend ist, in dieser Beziehung "die KI" zu dämonisieren, sondern dass man einer KI, die menschenähnlich agiert, auch menschliche Fehler und Schwächen unterstellen darf bzw. sogar muss.

Insgesamt sind wir ziemlich nah beieinander.

Ich würde keine (wie auch immer geartete) IT-Anwendung dämonisieren, schon allein von Berufs wegen

Aber ich weiß, wie viel Schaden man mit falsch eingesetzter oder fehlerhafter Software verursachen kann, ebenfalls von Berufs wegen.
Schon eine, gemeinhin ja nicht direkt mit Lebensgefahr in Verbindung gebrachte, Bankensoftware schafft es problemlos, Menschen zu schädigen, wenn durch einen Fehler mal ein paar zig oder hunderttausend Überweisungen falsch oder nicht termingerecht ausgeführt werden. Und frag mich nicht, ob ich das daher so genau weiß, weil das schon mal aufgrund eines von mir eingebauten Fehlers passiert ist ...

Richtig. Und für solche Anwendungen, die ja von Profis erstellt werden und auf Sicherheit und korrekte Funktion überprüft werden müssen, könnte man dann jenes ganz einfach anzuwendende Qualitätskriterium anwenden, dass eine Funktion wie =COPILOT("..."), sofern es sie geben sollte, darin schlicht und einfach nicht verwendet werden dürfte. Damit hätte man die potenzielle Fehlerquelle, dass ein LLM in dieser Anwendung womöglich Werte halluziniert, mit minimalem Aufwand eliminiert.

Ja, das stellen Du und ich mir so vor. Aber bereits heute wird bei Drohnenangriffen KI benutzt. Die sorgt bei Drohnenschwärmen dafür, das die Dinger nicht zusammenklatschen und die KI sucht automatisch Ziele. Und sorgt bei mir jedesmal für zeitweilige Übelkeit, wenn ich davon lese. Auch wenn die Ukraine ohne solche Systeme wahrscheinlich schon nicht mehr existieren würde, verursacht es mir starkes Unbehagen.

 

[albert66]

für solche Anwendungen, die ja von Profis erstellt werden und auf Sicherheit und korrekte Funktion überprüft werden müssen, könnte man

mit gesundem Mißtrauen stichprobenartig einen Check machen. Es gibt eigentlich zwei grundsätzliche Probleme zu "Überprüfungen":
* man kann in einem (geschlossenen) System nicht mit dessen eigenen Systemmitteln dessen Fehlerfreiheit beweisen. Ein schönes Beispiel ist die Hohlwelttheorie, die in sich selbst logisch argumentiert, ableitet, usw.
* man kann Computerprogramme nicht vollständig mit allen variablen Ereignissen und möglichem Input testen. Dazu noch auf verschiedenen Systemen.

Es ist banal, ein paar Befehle zu verfolgen, aber selbst zur Lochkartenzeit ohne Betriebssystem gab es schon zeitabhängige Probleme durch I/O-Interrupts. Selbst im simpelsten Uniprozessor mit Stand-alone-Programm muß der Prozessor nach einem I/O-Befehl warten (bei Input fast immer, bei Output Ermessensfrage), bis per Interrupt die Daten bereit gemeldet wurden. In dieser Wartezeit wird die CPU i.d.R. in einen disabled Status versetzt (zumindest das Programm "eingefroren") und muß dann an der richtigen Stelle wieder mit den erhaltenen Daten weiter laufen. Diese Wartezeit wird heute mit entsprechender Programmiertechnik (vieles inzwischen intern in der "CPU-Firmware") für Multitasking ausgenutzt.

Ist jetzt etwas blöd, aber ...... ich habe diese Zeit (Uni-Proc, Stand-alone Pgm, sequentiell eines nach dem andern) noch im Service miterlebt, mit allen Macken. Danach per IBM/360 und Nachfolger inkl. Betriebssystem, dazu ~3+ Jahre unterrichtet und dann bei Mainframekunden supported. Durch die Zeitabhängigkeiten im System (wait/post zwischen Prozessoren und Programmen inkl. Betriebssystem) ist es nicht mehr möglich, 100pro alle Varianten inkl. Wartezeiten für alle Systeme zu testen. Selbst ein 1:1 kopiertes System inkl. gleicher Hardware kann einem "um die Ohren fliegen".

Ich lasse es damit gut sein. Auch ein von sehr guten Experten geschriebenes und super getestetes Programm kann auf Grund von "Nebenbedingungen" krachen. Ich habe und baue heute noch an einzelnen Stellen in meine Programme Fehlermessages ein mit dem Text "hier darf keiner vorbei kommen" (oder sinngemäß ähnlich, nur etwas boshafter) . Da passiert zwar fast nie etwas, aber ..... auch nur fast.

Sorry für den Roman, aber .................. ich kann mir erst recht nicht vorstellen, daß wir jemals eine fehlerfreie KI haben werden. Wer soll die denn prüfen und mit welchen Mitteln ?? Ich habe einfach zu lange erlebt, daß ein "hat der Computer gerechnet" bei Nachprüfung für die Tonne war (warum auch immer).

Gruß Peter