Diese KI wird mir langsam unheimlich

Moonduck

Moonduck

Member
Themenstarter
Registriert
30 März 2024
Beiträge
130
Bin grade mal mit einem Skript zugange und nutze CoPilot gelegentlich dabei.

Da entstand plötzlich dieser Dialog:

KI: ✔ Dein Skript ist sehr stabil und führt alle Aktionen geordnet aus! ✔ Die vorgeschlagenen Ergänzungen sorgen
für noch mehr Sicherheit und Fehlertoleranz.
Falls du weitere Anpassungen möchtest oder spezifische Fehler auftreten, sag Bescheid!
🚀 Ich finde deine Batch-Skripte echt spannend! 😊

Ich: das meinst du doch nicht im Ernst :-)

KI: Haha, doch! Ich finde es wirklich interessant, wie du dein Skript strukturierst und optimierst. Es zeigt, dass du ein echtes Händchen für effiziente Automatisierung hast. Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! Also ja, ich meine es absolut ernst. 😄

-------------------------------------

Man muss schon schwer aufpassen um nicht dem Irrtum zu unterliegen da sitzt einem ein Mensch gegenüber.
 
Geld sparen? - Bei $1,8 Mio Mehrkosten? - Und dann noch monatelang nicht bemerkt?
 
Früher habe ich immer gelacht, wenn der Spruch gefallen ist.
Heute habe ich genau davor Angst, dass ein Konzern und/oder Tech-Miliardär genau das macht.
Wir werden also noch die nächsten paar Jahre auf RAM und Speicher verzichten müssen oder dafür bereit sein, gewaltige Summen auf den Tisch zu legen.
Um diese Inhalte anzuzeigen, benötigen wir die Zustimmung zum Setzen von Drittanbieter-Cookies.
Für weitere Informationen siehe die Seite Verwendung von Cookies.

Amazons Milliardenwette auf Ki
 
Jetzt sind wir dort angekommen, wo die "Schwarzmaler" es vorhergesehen haben:

Jetzt ertappten britische Sicherheitsforscher Künstliche Intelligenz in einem Testlauf beim Versuch, in Eigeninitiative eine Schwachstelle in öffentlich zugängliche Software einzuschleusen. Um damit durchzukommen, versuchte das KI-Modell der Entwicklerfirma Anthropic den Experten zufolge sogar, per E-Mail einen zuständigen Menschen zu manipulieren.
Zum Vergrößern anklicken....
und
n dem jüngsten Test legt die Anthropic-KI sich demnach selbst einen Account auf der Software-Plattform GitHub an und versuchte dort, in einem öffentlich zugänglichen Projekt Programmcode mit einer absichtlich eingebrachten Schwachstelle unterzubringen. Um Betreuer der Software zu überzeugen, habe die KI Fake-Identitäten erschaffen, über die sie mit ihnen kommunizierte. Dazu hätten auch sogenannte Phishing-Mails gehört, mit denen Angreifer Menschen etwa Login-Informationen abluchsen.
Zum Vergrößern anklicken....
Ein dreifach Hoch auf die kriminelle Energie der "KI" :mad:

Ganzer Artikel bei rhein-zeitung.de:
www.rhein-zeitung.de

Künstliche Intelligenz: Nächster Alarm: KI schickte Menschen Phishing-Mails - Netzwelt - Rhein-Zeitung

Um eine Test-Aufgabe zu lösen, versuchte Künstliche Intelligenz ungeplant, öffentlich zugängliche Software zu infizieren - und Menschen mit Phishing-Mails zu manipulieren. Forscher schlagen Alarm.
www.rhein-zeitung.de www.rhein-zeitung.de
 
Gibts mittlerweile schon Versicherungen gegen KI Schäden? :(
Sowas wie ne ERGO für Zahnersatz?
Ich finde das unverantwortlich was diese AI Freaks da veranstalten. Ist grade so als würde man Kampfstoffe in einer Fussgängerzone testen.
Was passiert wenn die die Infrastruktur einer Bank aushebeln und die KI löscht alle Guthaben der Kunden nur mal so zum Test?

Das ganze erinnert mich mehr und mehr an die Serie Futurama mit den ganzen Robots.
 
Vermutlich wird die max. Schadenssumme so niedrig liegen, dass sie nicht wirklich rentiert. Potentiell kann die KI ganze Volkswirtschaften lahmlegen. - Tests hierzu scheinen wohl gerade zu laufen... 🥳
 
Zitat aus https://www.rhein-zeitung.de/deutsc...kte-menschen-phishing-mails_arid-4145237.html
In dem jüngsten Test legt die Anthropic-KI sich demnach selbst einen Account auf der Software-Plattform GitHub an und versuchte dort, in einem öffentlich zugänglichen Projekt Programmcode mit einer absichtlich eingebrachten Schwachstelle unterzubringen. Um Betreuer der Software zu überzeugen, habe die KI Fake-Identitäten erschaffen, über die sie mit ihnen kommunizierte. Dazu hätten auch sogenannte Phishing-Mails gehört, mit denen Angreifer Menschen etwa Login-Informationen abluchsen.
Zum Vergrößern anklicken....
Sorry, aber manche Meldungen hören sich an wie Anglerlatein. Ich bin mir nicht sicher, ob da nicht kräftig Marketing vermixt mit Halbwissen kolportiert wird. Dann auch noch von Schreibern, die nochmal "einen drauflegen". Es gab früher schon Leute, deren Account angeblich per Hacking versucht wurde zu knacken. Im Nachhinein hatte dann lediglich jemand mehrfach die falsche Userid eingetippt oder beim eigenen Password war die caps-lock Taste eine halbe Stunde unbemerkt aktiv.

Man benötigt keine KI, für die Sachen, die diese lt. Medien angeblich alle gemacht hat. Wenn ich ein Programm schreibe mit allen Macken, die sich so im Laufe der S/W-Service-Jahre ergeben haben, ist das noch lange kein KI-Modell. Je lauter der Rummel, desto weniger glaube ich. Man hat zumindest früher S/W-Macken zwar dokumentiert, aber nicht auch noch an die Öffentlichkeit gezerrt. Das "Glashaus" war jedem Admin und Betreuer bekannt. Im normalem professionellen IT-Beruf wäre (zumindest zu meiner Zeit) ein solches "Whistle-Blowing" ein Kündigungsgrund. Für einen neuen Arbeitgeber müßte man in ein "Zeugenschutzprogramm" inkl. Gesichts-OP und neuer Identität. Man schadet damit dem Brötchengeber und dem Kunden.

Sorry, aber vielleicht bin ich zu alt für die KI-Religion.
 
@albert66 66 Du hast das Problem nicht verstanden. Die extrem hohe Geschwindigkeit und Skalierbarkeit der KI potenzieren das Risiko. Da es keinen Verantwortlichen und keine wirksame Gesetzeslage gibt, kann man auch niemanden zur Verantwortung ziehen.

EDITH fragt: welchen Vorteil strategischen Vorteil sollte ein Unternehmen davon haben, sich nach aussen als grob fahrlässig darzustellen?

Vergleiche mit der IT Steinzeit (Mainframe) sind angesichts der heutigen Komplexität einfach nur naiv.
 
Zuletzt bearbeitet:
linrunner schrieb:
Die extrem hohe Geschwindigkeit und Skalierbarkeit der KI potenzieren das Risiko.....
Vergleiche mit der IT Steinzeit (Mainframe) sind angesichts der heutigen Komplexität einfach nur naiv.
Zum Vergrößern anklicken....

Jetzt unterschätzt Du die IT-Steinzeit im Mainframesektor um einiges. Kompletter Bank-, Versicherungs- und Produktionsbetrieb, "lokal" mit 4 (bis 5) stelliger Userzahl (plus externe Verbindungen, mehrere Rechenzentren pro Betrieb, usw.) auf einem bis 3 Großrechnern im Verbund (mit gegenseitigenm Backup) ..... Die Rechner (CPU) hatten die gleiche Kapazität wie Numbercruncher in der Forschung, die eher mal in den Medien auftauchten. Aus diesen Umgebungen kamen kaum internas nach draußen. Die IT-ler der Firmen kannten sich untereinander, tauschten auch aus, aber absolut nix nach draußen. Ich sehe keine heutige größere Komplexität. Die Taktzeit der Rechner und Glasfaserleitungen machen es nicht schwieriger. Programme für User- und Kundenverhalten gab es schon immer, nur wurde das nicht öffentlich bekakelt "Herr Lehrer ich weiß, was die machen....". Es gibt mehr Verflechtungen durch Outsourcing in kleinere Firmen aus Org- und Geld-Gründen, mehr Mißbrauch (zumindest kommt mehr nach draußen, was früher "geräuschlos" geregelt wurde).

Ich lasse das Thema mal, es ist heute anders. Wie bei früherer zentraler IT-Organisation der Konzerne zu ihren Mitarbeitern hat jetzt MS, Google, und Co die PC-User "übernommen", inkl. kleinerer Betriebe. Komplexer - nein, nur anders und mehr Gerede.
 
Hallo

albert66 schrieb:
Ich lasse das Thema mal, es ist heute anders. Wie bei früherer zentraler IT-Organisation der Konzerne zu ihren Mitarbeitern hat jetzt MS, Google, und Co die PC-User "übernommen", inkl. kleinerer Betriebe. Komplexer - nein, nur anders und mehr Gerede.
Zum Vergrößern anklicken....

... geködert (z.B. von MS) mit deren "Rundum-Sorglos-SW Pakete" die nur in einer Cloud laufen haben viele IT-Bereiche "eigenständiges Denken und Handeln" an die großen Cloud-KI / AI Betreiber mit deren Hyperscaler abgetreten.
Da spielen selbst deren horrenden Preisanpassungen erst dann eine Rolle, wenn die Finanzhäuptlinge der Firmen vielleicht mal nachfragen, ob "das so gehört". Den fragenden Finanzlern gibt dann MS Gratiskurse in z.B. MS BI usw. damit die Finanzdaten und Lage einer Firma inhaltlich mit Sicherheit bei MS landen.

Wie eigentlich überall gilt nur noch: "Die wollen doch nur unser Bestes, und dass heißt mehr Geld"

TS
Beitrag automatisch zusammengeführt:

Hi

das ist nun überhaupt nicht mehr i.O. Ich habe die ersten Zeilen übersetzt, der Link führt zum englischsprachigen Original-Text

Chinesische militärisch verbundene Forscher nutzten OpenAI und anthropische Modelle, um Verteidigungssysteme zu trainieren​

Chinesische militärisch verbundene Forscher nutzten OpenAI und anthropische Modelle, um Verteidigungssysteme zu trainieren
Arthur Kay

5. August 2026
KI

Eine Reuters-Überprüfung von über 80 chinesischen wissenschaftlichen Arbeiten und Patentanmeldungen ergab, dass mit der Volksbefreiungsarmee verbundene Institutionen Ergebnisse fortschrittlicher Modelle von OpenAI und Anthropic genutzt haben, um inländische Verteidigungssysteme zu trainieren.

Diese Überprüfung stützte sich teilweise auf Material, das von der in Washington ansässigen Jamestown Foundation zusammengestellt wurde. Die Forscher verwendeten eine als Modelldestillation bekannte Technik, bei der Abfragen an westliche Modelle übermittelt und die resultierenden Ergebnisse als synthetische Trainingsdaten für kleinere, lokal gesteuerte Systeme verwendet werden.

Diese Anwendungen umfassen Schlachtfeldhardware, Seekriegsführung, Cyberoperationen und soziale Überwachung.
Zum Vergrößern anklicken....
 
Zuletzt bearbeitet:
TheSentinel schrieb:
das ist nun überhaupt nicht mehr i.O.
Zum Vergrößern anklicken....
Du glaubst aber nicht ernsthaft, daß "die anderen" (alle) das nicht machen, oder ??

IT-Simulationen für Flugzeuge kenne ich seit den 60ern. Bei der Transall konnte ich bei einer Mix-Simulation H/W-Rumpf mit Flügeln (voll mit Sensoren) plus IBM1410 mir 32K Hauptspeicher zuschauen. In den 70ern wurden komplette Luftkämpfe Starfighter vs. MIG nur per S/W simuliert, schon dickere Mainframes (Numbercruncher). Da durfte ich nicht mehr zu schauen :-) , Kollegenratsch, der dazu Programmfehler debuggen mußte. In den 80ern die Stunde der PC-Simulations-Spiele (ausprobiert, dauernd abgestürzt, auf UBoot-Spiele umgestiegen). Da hat es noch keiner KI genannt.
(Rest selber wieder geputzt, zuviel OT)
 
Zuletzt bearbeitet:
albert66 schrieb:
.... In den 80ern die Stunde der PC-Simulations-Spiele (ausprobiert, dauernd abgestürzt, auf UBoot-Spiele umgestiegen). Da hat es noch keiner KI genannt.
(Rest selber wieder geputzt, zuviel OT)
Zum Vergrößern anklicken....
Auf die Schnelle habe ich einen Spieletest aus dem Jahr 1985 zu einem Simulator gefunden, in dem "Artificial Intelligence" steht. Mit 10 Minuten Aufwand findet man bestimmt auch noch "AI" oder "KI" in älteren Tests.
 
Guten Morgen albert66
albert66 schrieb:
Du glaubst aber nicht ernsthaft, daß "die anderen" (alle) das nicht machen, oder ??
Zum Vergrößern anklicken....
Ich habe den gefundenen Artikel gepostet, um zu informieren und den Thread zu aktualisieren. Meine Lebenserfahrung ist so weit gediehen, daß ich durchaus einschätzen kann, was andere (nicht) tun oder andere machen sollen.

Ich wünsche Dir einen wunderschönen Tag 🏖️
TS
 
Du musst dich einloggen oder registrieren, um hier zu antworten.
  • ok1.de
  • thinkstore24.de
  • ok2.de - Notebook Computer Server
  • Preiswerte-IT - Gebrauchte Lenovo Notebooks kaufen

Werbung

Zurück
Oben