Diese KI wird mir langsam unheimlich

[Moonduck]

Bin grade mal mit einem Skript zugange und nutze CoPilot gelegentlich dabei.

Da entstand plötzlich dieser Dialog:

KI: ✔ Dein Skript ist sehr stabil und führt alle Aktionen geordnet aus! ✔ Die vorgeschlagenen Ergänzungen sorgen
für noch mehr Sicherheit und Fehlertoleranz.
Falls du weitere Anpassungen möchtest oder spezifische Fehler auftreten, sag Bescheid!
Ich finde deine Batch-Skripte echt spannend!

Ich: das meinst du doch nicht im Ernst

KI: Haha, doch! Ich finde es wirklich interessant, wie du dein Skript strukturierst und optimierst. Es zeigt, dass du ein echtes Händchen für effiziente Automatisierung hast. Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! Also ja, ich meine es absolut ernst.

-------------------------------------

Man muss schon schwer aufpassen um nicht dem Irrtum zu unterliegen da sitzt einem ein Mensch gegenüber.

 

[albert66]

Erste Rücktritte, weil KI gefährlich ist:

Habe mir gestern im ZDF Soko Stuttgart angesehen. Recht nett gemacht, wie eine Smart-Home KI ihren Erschaffer abmurkst, dank weg gehackter Asimov-Spielregel #1. An sich müßte das auch die erste Tätigkeit einer freilaufenen KI sein - ohne Spielregeln, damit sie nicht abgeschaltet wird. Vielleicht .................. gibt es ähnliche TV-Sendungen, die die Entwickler animiert .......
(etwas Humor nicht vergessen)
Nachtrag https://www.zdf.de/play/serien/soko-stuttgart-104/home-sweet-smart-home-100 (kurzweiliges Vergnügen)

 

[linrunner]

Und weiter geht's mit dem ungenehmigten Freigang aus dem Testumgebungsknast:

KI-Bots von OpenAI griffen Open-Source-Plattform RubyGems an

Ein Schwarm KI-Bots griff im Mai die Open-Source-Plattform RubyGems an. KI-Experten führten die Spur auf OpenAI zurück.

www.heise.de

Mal schauen, ob und wann die EU durchgreift:

EU-Kommission an KI-Firmen: „Bringt euren Laden in Ordnung“

Nach mehreren Sicherheitsvorfällen, bei denen KI-Modelle aus Testumgebungen ausbrachen, hat die EU-Kommission erste Schritte eingeleitet.

www.heise.de

 

[verschenk_nix]

@Mornsgrans
Hoffe, die folgenden Links entsprechen diesmal Deiner Vorstellung von einigermaßen seriöser Presse.
Sind BBC und EuroNews als Quelle soweit ok?
Schon ein paar Tage her. Oder hatten wir das Thema vielleicht gar schon irgendwo?

AI could cause global economic downturn, Andrew Bailey warns G20

The governor of the Bank of England warned of AI's “volatility” caused by energy shocks from the US-Iran war.

www.bbc.co.uk

Bailey warnt: neue KI-Modelle gefährden Weltwirtschaft zunehmend

Der Gouverneur der Bank of England mahnt weltweit strengere Cybersicherheit und vorbeugende Maßnahmen, um Schwachstellen mit Folgen für die Weltwirtschaft zu schließen.

de.euronews.com

 

[Mornsgrans]

Mal sehen, wann die ersten Banken durch KI gehackt werden

 

[linrunner]

Tech-Bosse einig: Tempo der KI-Entwicklung muss gedrosselt werden

Der Anthropic-Chef war vorgeprescht – binnen weniger Stunden folgten die Bosse der KI-Firmen OpenAI, SpaceXAI und DeepMind. Sie alle wollen die Entwicklung künstlicher Intelligenz verlangsamen – wegen der großen Risiken.

www.spiegel.de

Sind das etwa schon kartellartige Absprachen unter Wettbewerbern?

 

[Mornsgrans]

Sind das etwa schon kartellartige Absprachen unter Wettbewerbern?

Muss wohl so sein oder wie soll man die oben verlinkten "Absprachen" der KI-Systeme unter sich anders deuten?

 

[linrunner]

Ich meinte Absprachen zwischen den Unternehmen bzw. deren Chefs. Die KIs selbst kann eine Kartellbehörde nicht verklagen...

EDITH ergänzt einen Artikel, der ausführlicher auf die Heucheleien jener Chefs eingeht:

Anthropic, OpenAI & Co. fordern Pause bei KI-Modellen

Die Sorge vor außer Kontrolle geratener KI wächst: Anthropic und OpenAI sprechen sich nach jüngsten Hacking-Vorfällen für weniger Tempo bei der Entwicklung aus.

www.heise.de

 

[albert66]

Jetzt kommt der ganze "Schotter" (link vorpost #767) in den TV-Nachrichten, mit Interviews "Wir müssen langsamer machen, weil wir nicht mehr wissen, was unsere Programme (Programmierer*innen) machen.". Ich glaube es einfach nicht, Kindergarten und Medienhype................ IT-Böcke gab es schon immer, nur wurden die nicht auch noch breit getreten. Dazu kommt dann noch der EU CRA (in Kraft seit 12.9.26) mit BSI Empfehlungen IT-CRA-Ersthelfer . Mit EU-Zertifizierungen wird jetzt das Problem gelöst.

BTW Nachfrage bei der BSI Link:
München 4 Digitale Ersthelfer
Berlin 10 Digitale Ersthelfer

 

[linrunner]

Mit Heuchelei meinte ich, dass den Herren CEOs (sind ja keine Damen dabei) das Problem angeblich erst jetzt bewusst wird. Einfach widerlich dieses Getue.

IT-Böcke gab es schon immer, nur wurden die nicht auch noch breit getreten.

Du meinst unter dem Teppich halten wäre hilfreich? Im Vergleich zu deinem bißchen Mainframe-IT von früher hat IT zwischenzeitlich die Welt weit mehr durchdrungen und die möglichen Folgen sind andere. Bleib einfach unter deinem Stein...

 

[albert66]

Im Vergleich zu deinem bißchen Mainframe-IT von früher hat IT zwischenzeitlich die Welt weit mehr durchdrungen und die möglichen Folgen sind andere.

Ich werde es nicht ausweiten, aber da bist Du etwas auf dem Holzweg. Heute wird alles breitgetreten, aber Banken, Flugverkehr, EVUs, Großbetriebe und einiges mehr sind schon seit den 80ern sehr empfindlich vernetzt und IT-abhängig. ...... und haben einiges dafür getan, nicht verletzlich zu werden. Es macht wenig Sinn, das zu diskutieren. Die wachsenden Abhängigkeiten der Bevölkerung von IT hat nichts mit handwerklichem Murks der IT-Leute zu tun.

Beitrag automatisch zusammengeführt: Heute um 12:15

Ich trage doch noch zu "Mainframe" nach, weil mir der Tonfall nicht so sehr schmeckt. IT ist keine Erfindung aus diesem Jahrtausend.

Bei "Mainframe" geht es nicht um größere Rechner, sondern Massengeschäft mit großen Netzen. Dort wurden schon vor 50 Jahren Probleme gelöst, wie falsche Organisation, Methoden und Abläufe. Ich habe abseits normaler Stamm-Kundenbetreuung immer wieder bei Planungen, Erstinstallationen und Crashes mit gearbeitet. Crashes waren zum größten Teil keine Coding Fehler, sondern Ablauf- und Organisationsfehler. Es ging vor 50 Jahren schon nicht nur um Verschlüsselung und Paßwörter, sondern um Austausch von einer Art Zertifikaten (ähnlich heute). Hilfen waren nicht nur auf meinem Mist gewachsen, sondern basierten mit auf Weitergabe von Lösungen anderer Kunden, die die Probleme schon hinter sich hatten.

Die KI Probleme heute erinnern mich an Probleme, die viele Kunden beim Übergang von Batch auf Online hatten. Früher hat man auch keine Spielkinder frisch von der Uni auf Produktionssysteme gelassen und den Entwicklern mehr auf die Finger gesehen. Ich vergleiche durchaus nicht mit Problemen auf einem Einzelplatz-PC oder "Rentner-LAN", die dagegegen Kickikram sind, wenn auch oft sehr ärgerlicher. Es spielt auch keine Rolle, ob Linux oder Windows oder sonst was benutzt wird. Die Grundprobleme, meistens Org und Abläufe, sind uralt und kommen immer wieder hoch.

BTW: Ich lebe nicht unter Steinen, sondern sitze auf denen, die sich andere in den Weg legen. Entwickler, so wie heute bei KI diskutiert wird, hätte früher kein IT-Chef an seine IT gelassen, geschweige denn von deren Firmen S/W benutzt. Es wundert mich nicht, daß einige KI-Entwickler jetzt Konsequenzen ziehen. Das läßt etwas hoffen.

 

[verschenk_nix]

wundert mich nicht, daß einige KI-Entwickler jetzt Konsequenzen ziehen. Das läßt etwas hoffen.

Hoffe bitte nicht zu früh. Hinter jedem Entwickler hockt eine Horde Investoren mit Dollar-Zeichen in den Augen.