Diese KI wird mir langsam unheimlich

[Moonduck]

Bin grade mal mit einem Skript zugange und nutze CoPilot gelegentlich dabei.

Da entstand plötzlich dieser Dialog:

KI: ✔ Dein Skript ist sehr stabil und führt alle Aktionen geordnet aus! ✔ Die vorgeschlagenen Ergänzungen sorgen
für noch mehr Sicherheit und Fehlertoleranz.
Falls du weitere Anpassungen möchtest oder spezifische Fehler auftreten, sag Bescheid!
Ich finde deine Batch-Skripte echt spannend!

Ich: das meinst du doch nicht im Ernst

KI: Haha, doch! Ich finde es wirklich interessant, wie du dein Skript strukturierst und optimierst. Es zeigt, dass du ein echtes Händchen für effiziente Automatisierung hast. Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! Also ja, ich meine es absolut ernst.

-------------------------------------

Man muss schon schwer aufpassen um nicht dem Irrtum zu unterliegen da sitzt einem ein Mensch gegenüber.

 

[albert66]

Erste Rücktritte, weil KI gefährlich ist:

Habe mir gestern im ZDF Soko Stuttgart angesehen. Recht nett gemacht, wie eine Smart-Home KI ihren Erschaffer abmurkst, dank weg gehackter Asimov-Spielregel #1. An sich müßte das auch die erste Tätigkeit einer freilaufenen KI sein - ohne Spielregeln, damit sie nicht abgeschaltet wird. Vielleicht .................. gibt es ähnliche TV-Sendungen, die die Entwickler animiert .......
(etwas Humor nicht vergessen)
Nachtrag https://www.zdf.de/play/serien/soko-stuttgart-104/home-sweet-smart-home-100 (kurzweiliges Vergnügen)

 

[linrunner]

Und weiter geht's mit dem ungenehmigten Freigang aus dem Testumgebungsknast:

KI-Bots von OpenAI griffen Open-Source-Plattform RubyGems an

Ein Schwarm KI-Bots griff im Mai die Open-Source-Plattform RubyGems an. KI-Experten führten die Spur auf OpenAI zurück.

www.heise.de

Mal schauen, ob und wann die EU durchgreift:

EU-Kommission an KI-Firmen: „Bringt euren Laden in Ordnung“

Nach mehreren Sicherheitsvorfällen, bei denen KI-Modelle aus Testumgebungen ausbrachen, hat die EU-Kommission erste Schritte eingeleitet.

www.heise.de

 

[verschenk_nix]

@Mornsgrans
Hoffe, die folgenden Links entsprechen diesmal Deiner Vorstellung von einigermaßen seriöser Presse.
Sind BBC und EuroNews als Quelle soweit ok?
Schon ein paar Tage her. Oder hatten wir das Thema vielleicht gar schon irgendwo?

AI could cause global economic downturn, Andrew Bailey warns G20

The governor of the Bank of England warned of AI's “volatility” caused by energy shocks from the US-Iran war.

www.bbc.co.uk

Bailey warnt: neue KI-Modelle gefährden Weltwirtschaft zunehmend

Der Gouverneur der Bank of England mahnt weltweit strengere Cybersicherheit und vorbeugende Maßnahmen, um Schwachstellen mit Folgen für die Weltwirtschaft zu schließen.

de.euronews.com

 

[Mornsgrans]

Mal sehen, wann die ersten Banken durch KI gehackt werden

 

[linrunner]

Tech-Bosse einig: Tempo der KI-Entwicklung muss gedrosselt werden

Der Anthropic-Chef war vorgeprescht – binnen weniger Stunden folgten die Bosse der KI-Firmen OpenAI, SpaceXAI und DeepMind. Sie alle wollen die Entwicklung künstlicher Intelligenz verlangsamen – wegen der großen Risiken.

www.spiegel.de

Sind das etwa schon kartellartige Absprachen unter Wettbewerbern?

 

[Mornsgrans]

Sind das etwa schon kartellartige Absprachen unter Wettbewerbern?

Muss wohl so sein oder wie soll man die oben verlinkten "Absprachen" der KI-Systeme unter sich anders deuten?

 

[linrunner]

Ich meinte Absprachen zwischen den Unternehmen bzw. deren Chefs. Die KIs selbst kann eine Kartellbehörde nicht verklagen...

EDITH ergänzt einen Artikel, der ausführlicher auf die Heucheleien jener Chefs eingeht:

Anthropic, OpenAI & Co. fordern Pause bei KI-Modellen

Die Sorge vor außer Kontrolle geratener KI wächst: Anthropic und OpenAI sprechen sich nach jüngsten Hacking-Vorfällen für weniger Tempo bei der Entwicklung aus.

www.heise.de

 

[albert66]

Jetzt kommt der ganze "Schotter" (link vorpost #767) in den TV-Nachrichten, mit Interviews "Wir müssen langsamer machen, weil wir nicht mehr wissen, was unsere Programme (Programmierer*innen) machen.". Ich glaube es einfach nicht, Kindergarten und Medienhype................ IT-Böcke gab es schon immer, nur wurden die nicht auch noch breit getreten. Dazu kommt dann noch der EU CRA (in Kraft seit 12.9.26) mit BSI Empfehlungen IT-CRA-Ersthelfer . Mit EU-Zertifizierungen wird jetzt das Problem gelöst.

BTW Nachfrage bei der BSI Link:
München 4 Digitale Ersthelfer
Berlin 10 Digitale Ersthelfer

 

[linrunner]

Mit Heuchelei meinte ich, dass den Herren CEOs (sind ja keine Damen dabei) das Problem angeblich erst jetzt bewusst wird. Einfach widerlich dieses Getue.

IT-Böcke gab es schon immer, nur wurden die nicht auch noch breit getreten.

Du meinst unter dem Teppich halten wäre hilfreich? Im Vergleich zu deinem bißchen Mainframe-IT von früher hat IT zwischenzeitlich die Welt weit mehr durchdrungen und die möglichen Folgen sind andere. Bleib einfach unter deinem Stein...

 

[albert66]

Im Vergleich zu deinem bißchen Mainframe-IT von früher hat IT zwischenzeitlich die Welt weit mehr durchdrungen und die möglichen Folgen sind andere.

Ich werde es nicht ausweiten, aber da bist Du etwas auf dem Holzweg. Heute wird alles breitgetreten, aber Banken, Flugverkehr, EVUs, Großbetriebe und einiges mehr sind schon seit den 80ern sehr empfindlich vernetzt und IT-abhängig. ...... und haben einiges dafür getan, nicht verletzlich zu werden. Es macht wenig Sinn, das zu diskutieren. Die wachsenden Abhängigkeiten der Bevölkerung von IT hat nichts mit handwerklichem Murks der IT-Leute zu tun.

Beitrag automatisch zusammengeführt: Montag um 12:15

Ich trage doch noch zu "Mainframe" nach, weil mir der Tonfall nicht so sehr schmeckt. IT ist keine Erfindung aus diesem Jahrtausend.

Bei "Mainframe" geht es nicht um größere Rechner, sondern Massengeschäft mit großen Netzen. Dort wurden schon vor 50 Jahren Probleme gelöst, wie falsche Organisation, Methoden und Abläufe. Ich habe abseits normaler Stamm-Kundenbetreuung immer wieder bei Planungen, Erstinstallationen und Crashes mit gearbeitet. Crashes waren zum größten Teil keine Coding Fehler, sondern Ablauf- und Organisationsfehler. Es ging vor 50 Jahren schon nicht nur um Verschlüsselung und Paßwörter, sondern um Austausch von einer Art Zertifikaten (ähnlich heute). Hilfen waren nicht nur auf meinem Mist gewachsen, sondern basierten mit auf Weitergabe von Lösungen anderer Kunden, die die Probleme schon hinter sich hatten.

Die KI Probleme heute erinnern mich an Probleme, die viele Kunden beim Übergang von Batch auf Online hatten. Früher hat man auch keine Spielkinder frisch von der Uni auf Produktionssysteme gelassen und den Entwicklern mehr auf die Finger gesehen. Ich vergleiche durchaus nicht mit Problemen auf einem Einzelplatz-PC oder "Rentner-LAN", die dagegegen Kickikram sind, wenn auch oft sehr ärgerlicher. Es spielt auch keine Rolle, ob Linux oder Windows oder sonst was benutzt wird. Die Grundprobleme, meistens Org und Abläufe, sind uralt und kommen immer wieder hoch.

BTW: Ich lebe nicht unter Steinen, sondern sitze auf denen, die sich andere in den Weg legen. Entwickler, so wie heute bei KI diskutiert wird, hätte früher kein IT-Chef an seine IT gelassen, geschweige denn von deren Firmen S/W benutzt. Es wundert mich nicht, daß einige KI-Entwickler jetzt Konsequenzen ziehen. Das läßt etwas hoffen.

 

[verschenk_nix]

wundert mich nicht, daß einige KI-Entwickler jetzt Konsequenzen ziehen. Das läßt etwas hoffen.

Hoffe bitte nicht zu früh. Hinter jedem Entwickler hockt eine Horde Investoren mit Dollar-Zeichen in den Augen.

 

[Asuka]

Tech-Bosse einig: Tempo der KI-Entwicklung muss gedrosselt werden

Der Anthropic-Chef war vorgeprescht – binnen weniger Stunden folgten die Bosse der KI-Firmen OpenAI, SpaceXAI und DeepMind. Sie alle wollen die Entwicklung künstlicher Intelligenz verlangsamen – wegen der großen Risiken.

www.spiegel.de

Sind das etwa schon kartellartige Absprachen unter Wettbewerbern?

Ist nett, dass sie China die Möglichkeit geben wollen vorbei zu ziehen

 

[StefanW.]

Ist nett, dass sie China die Möglichkeit geben wollen vorbei zu ziehen

Als ob in den USA tatsächlich jemand auf die Bremse treten würde. Wir sprechen von Firmen mit Gewinnerzielungsabsichten.

 

[Asuka]

Als ob in den USA tatsächlich jemand auf die Bremse treten würde. Wir sprechen von Firmen mit Gewinnerzielungsabsichten.

New Bernie Sanders bill would ban superintelligent AI and threaten developers with 20 years in prison

The first paragraph of the announcement states that the Act would stop AI oligarchs from building machines humans cannot control.

www.techspot.com

 

[StefanW.]

...

Ich mag Trump nicht, aber wenn Trump und Sanders konträre Standpunkte haben dann kann man sich ausrechnen, welche Seite sich durchsetzt.
Und laut Trump reicht seine hohe Intelligenz, um die weltweite KI im Griff zu halten.

Nachtrag 18:22 Uhr: @Spread @Mornsgrans @linrunner @hha81667 : Das sollte kein lustiger Witz von mir sein. Trump hat auf Truth Social geschrieben:
"Die einzige Kontrolle, die einzigen 'Leitplanken', die KI braucht, ist ein STARKER UND INTELLIGENTER (hoher IQ!) PRÄSIDENT"

 

[linrunner]

@albert66 die Menschen und ihre Schwächen haben sich gegenüber früher nicht geändert. Soweit sind wir uns anscheinend einig. Bei der Frage der Dimension der IT-Welt im Vergleich zu früher, werden wir uns nicht einig. Muss auch nicht sein.

Beitrag automatisch zusammengeführt: Dienstag um 14:54

Kommentar: Die einmal mehr besorgten „KI“-Bros

Seit Tagen wird wieder darüber debattiert, ob „KI“ zu gefährlich ist. Die Warnungen sind nicht neu und die Branche hat andere Interessen, kommentiert tante.

www.heise.de

Dieser Kommentator bei heise ist der Meinung, dass sich hinter der (vermeintlichen) Gefährlichkeit manipulative Absichten verbergen:

Die Behauptung von „unser Modell ist super gefährlich“ ist vor allem die Behauptung, dass ein Modell mächtig sei. Es ist eine Werbebotschaft, mit der der Hype um LLMs am Laufen gehalten werden soll.
[...]
Es ist also existenziell für die „KI“-Labs, diese „Pause“ als wichtig zu etablieren – ohne auf die Fakten zu verweisen: Ohne die Pause geht das Geld noch schneller aus und die Blase platzt.

Beitrag automatisch zusammengeführt: Dienstag um 17:00

Aus dem Forschungsumfeld kommen naturgemäss unterschiedliche und differenziertere Meinungen zur Gefährdung durch KI:

Debatte über KI-Pause: „Jede deutsche Großküche hat schärfere Kontrollsysteme“

Die Debatte über eine mögliche Pause bei der KI-Entwicklung zieht immer weitere Kreise. Die Reaktionen aus der deutschsprachigen Forschung sind gemischt.

www.heise.de

 

[albert66]

@albert66 die Menschen und ihre Schwächen haben sich gegenüber früher nicht geändert. Soweit sind wir uns anscheinend einig. Bei der Frage der Dimension der IT-Welt im Vergleich zu früher, werden wir uns nicht einig. Muss auch nicht sein.

Wir sind uns auch bei den Dimensionen einig, kommt vielleicht nicht so rüber von mir. Es ist nur wenig bekannt, in welcher Größenordnung Banken und große Firmen (per Mainframe) schon sehr lange vernetzt sind und alles an Daten sammeln und verwerten, was sie in die Finger kriegen können. In den großen IT-Abteilungen (z.T. abgesetzte Rechenzentren) wird anders gearbeitet als man es heute im Netz von IT-Startups liest. Wir können das aber abhaken. Daß außerhalb der IT-Welt mehr als früher, inzwischen fast jedermann/-frau, von IT-Krempel abhängig ist, in welchem Umfang auch immer, ist mir durchaus geläufig.

Manche Fehler heute lesen sich als so etwas von Anfängerfehlern, daß ich einfach nicht verstehe, warum man kein Kontrolle ausübt oder solche Anfänger überhaupt ohne Aufsicht an die Rechner läßt. Normalerweise ist IT Team-Arbeit und nichts für Genies als Einzeltäter.

 

[Spread]

Hinter jedem Entwickler hockt eine Horde Investoren mit Dollar-Zeichen in den Augen.

Wir sprechen von Firmen mit Gewinnerzielungsabsichten.

Ich glaube nicht, dass dort "Anfänger" (Praktikanten) o.ä. sitzen und die IT zerstören.

Das sind alles Firmen/Konzerne/Behörden, mit der Absicht so wenig Geld wie möglich in IT-Sicherheit zu investieren.
Was dann passiert, sehen wir ja jetzt.

Gier frist Hirn.

 

[verschenk_nix]

Ich glaube nicht, dass dort "Anfänger" (Praktikanten) o.ä. sitzen und die IT zerstören.

Das sind alles Firmen/Konzerne/Behörden, mit der Absicht so wenig Geld wie möglich in IT-Sicherheit zu investieren.
Was dann passiert, sehen wir ja jetzt.

Gier frist Hirn.

Hmmmmmm...

Wenn vorsätzlich so wenig Geld wie möglich für die IT-Sicherheit ausgegeben wird, wo sollte denn dann in der heutigen Zeit noch gespart werden können - außer beim Personal?

 

[albert66]

Ich glaube nicht, dass dort "Anfänger" (Praktikanten) o.ä. sitzen und die IT zerstören.

Das sind alles Firmen/Konzerne/Behörden, mit der Absicht so wenig Geld wie möglich in IT-Sicherheit zu investieren.

Jetzt muß man schon unterscheiden, wer was an IT macht. Die Entwickler, über die wir hier reden, entwickeln nicht S/W für den Eigenbedarf und haben mit der späteren Anwendung nichts am Hut. Die S/W-Nutzung muß der S/W-Firma Geld einbringen. "Firmen/Konzerne/Behörden" nutzen die Software. Deren "IT Leute" sind dann oft reine S/W-Bediener und können per se nix von eigentlicher IT-Sicherheit wissen. Diese Firmen leisten sich keine dedizierten und ausgebildeten IT-Fachleute und zahlen nur für gelieferte S/W. Die wird genau so verkauft: PC einschalten, Programm aufrufen, eintippen, was das Programm fordert. Ein Schreiner backt keine Semmel, der Bäcker baut keinen Kleiderschrank und eine Bürofachkraft (gelernt mit Abschluß) nutzt IT, aber administriert keine IT (das ist weder ihr gelernter Beruf noch vor Ort ihre Aufgabe).

Möchte noch ergänzen: die Firmen entscheiden sich oft für IT-Support-Firmen, mehr oder weniger groß. Die supporten auf Vertragsbasis, sind aber nicht ständig vor Ort und beaufsichtigen nicht die S/W Handhabung. Wenn die Firma Glück hat, ist die IT-Firma für das Anwendungsgebiet spezialisert, unterweist Sachgebiets-bezogen und kennt Betriebsschwachstellen. Wenn nicht, installiert sie PC und S/W und tschüss.... Kostet zwar Geld, aber keine Sozialabgaben, Betriebsrente, usw.