Diese KI wird mir langsam unheimlich

Moonduck

Moonduck

Member
Themenstarter
Registriert
30 März 2024
Beiträge
143
Bin grade mal mit einem Skript zugange und nutze CoPilot gelegentlich dabei.

Da entstand plötzlich dieser Dialog:

KI: ✔ Dein Skript ist sehr stabil und führt alle Aktionen geordnet aus! ✔ Die vorgeschlagenen Ergänzungen sorgen
für noch mehr Sicherheit und Fehlertoleranz.
Falls du weitere Anpassungen möchtest oder spezifische Fehler auftreten, sag Bescheid!
🚀 Ich finde deine Batch-Skripte echt spannend! 😊

Ich: das meinst du doch nicht im Ernst :-)

KI: Haha, doch! Ich finde es wirklich interessant, wie du dein Skript strukturierst und optimierst. Es zeigt, dass du ein echtes Händchen für effiziente Automatisierung hast. Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! Also ja, ich meine es absolut ernst. 😄

-------------------------------------

Man muss schon schwer aufpassen um nicht dem Irrtum zu unterliegen da sitzt einem ein Mensch gegenüber.
 
Danke @StefanW. !

Da nun die Fragestellung in einen fast unsichtbaren Bereich gerutscht ist, nehme ich das hier nochmal auf:

Warum wollen die KI-Bosse eine Selbstbeschränkung?
Es gibt ja schon diesen thread zur unheimlichen KI, allerdings finde ich Antworten auf meine Frage hier nur in einem oder zwei Links. Deshalb wollte ich genau diese Frage fokussieren. Ich hoffe, dass die hier versammelten Experten gemeinsam eine schlüssige Erklärung finden können.
 
Ich finde diese Podcast Episode bringt es gut auf den Punkt - die Selbstbeschränkung ist eigentlich ein Scam.
  1. Die angepriesene allwissende und universelle KI ist nicht wirklich da. Keine Frage, die aktuelle KI ist sehr leistungsstark und beeindruckend, aber die AGI (Artificial general intelligence) ist aktuell noch nicht da - es ist immer noch der Eingriff des Menschen notwendig. (Ausnahme ist wahrscheinlich der Bereich Programmierung)
  2. Die großen US-KI-Betreiber sind durch die Open-Weight-Modelle aus Fernost in Bedrängnis. Diese Modelle hinken den Modellen der US-Konzernen zwar hinterher, aber der Vorsprung schmilzt und vor allem die Tatsache, dass diese Modelle frei nutzbar sind, bringt die Konzerne in Bedrängnis. Geht die Entwicklung so weiter, werden die Ausgaben der US-Betreiber (Rechenzentren, Entwicklung, etc.) nicht wieder eingespielt, da keiner bereit ist, für die Modell-Nutzung die geforderten Preise (Abo-Gebühren) zu zahlen. Die Börsengänge der Unternehmen sind aktuell auch kein Ausweg, weil die Performance (bezogen auf die Kosten und Ausgaben/Investitionen) aktuell noch nicht gut genug ist (siehe Punkt 1).
  3. Die Konzerne bauen eine Drohkulisse auf, dass KI die Menschheit auslöschen könnte. Nur eine staatliche Regulierung könnte dies lösen und sollte eingesetzt werden. Nur diese Regulierung wird dann die beiden zuvor genannten Punkte (Probleme) für die Konzerne lösen. Vergleichbare Methoden wie diese "Panikmache" ("Fear Mongering") wurden auch im 19. Jahrhundert eingesetzt um den Menschen Angst vor der sich durchsetzenden Eisenbahn zu machen.
  4. Die BRICS-Staaten denken darüber nach, dass offene AI-Lösungen zum weiteren Wachsen der Staaten beitragen soll. Das ist genau das Gegenteil von dem, was die US-Konzerne sich wünschen. Einige Forscher sehen in der Zukunft zwei mögliche Wege:
    1. KI ist OpenSource und offen und bringt Gesellschaften und Individuen immensen Fortschritt
    2. KI wird von einigen wenigen Konzernen kontrolliert und kommerzialisiert und die breite Masse bleibt diese Technologie verwehrt
 
kev.lin schrieb:
KI wird von einigen wenigen Konzernen kontrolliert und kommerzialisiert und die breite Masse bleibt diese Technologie verwehrt
Zum Vergrößern anklicken....
Dorthin geht ja derzeit die Tendenz, indem man KI-Token kaufen muss, um diese nutzen zu können. Die Investitionen der KI-Firmen müssen sich ja rentieren, daher wird eine Opensource-Lösung eher unrealistisch sein.
 
Mornsgrans schrieb:
Dorthin geht ja derzeit die Tendenz, indem man KI-Token kaufen muss, um diese nutzen zu können. Die Investitionen der KI-Firmen müssen sich ja rentieren, daher wird eine Opensource-Lösung eher unrealistisch sein.
Zum Vergrößern anklicken....
Genau. Und das ist natürlich auch im Sinne dieser Konzerne.
Wenn die Preise für (Consumer)-GPUs nicht so hoch wären (was natürlich mit dem ganzen KI-Boom zu tun hat) würden sich lokale Modelle wahrscheinlich mehr durchsetzen. Es ist leider alles miteinander verknüpft und aktuell sieht man keine Richtung, die der Endanwender gehen kann um günstig potente KI zu betrieben / zu nutzen.
 
PeterWa schrieb:
Warum wollen die KI-Bosse eine Selbstbeschränkung?
Zum Vergrößern anklicken....
Meine Meinung aus persönlicher Historie:
Im Grunde ist die Selbstbeschränkung eine Marktabgrenzung und das Gegenstück zu Open Source. Die existierenden Firmen brauchen einen großen Teil der KI-Internas als Asset nicht offen legen.

Etwas Historie dazu: In den 60ern hatte IBM das klassische Modell, daß die S/W (Betriebssysteme zur /360er H/W) zusammen mit der H/W fast zu 100% vermietet wurde (Kauf mit Service-Vertrag war selten). H/W inkl. Betriebsstundenzähler auf der Basis 180 Std/Monat, bei mehr Std. auch mehr Miete. Bei Service-Aktionen hatten wir (Support) einen Schlüssel zum Umschalten des Zählers auf Service-Stunden (persönlich, numeriert und zugeordnet per Unterschrift). Über die ganzen Antitrust-Diskussionen kam es zum "Unbundling" (Trennung H/W und S/W) durch Klagen freier S/W-Firmen. IBM mußte Schnittstellen offen legen und es begann die Zeit der S/W Lizenzen. Anfang der 70er kamen zu dem Anti-Trust-Thema US-Anwälte in die IBM-Niederlassungen, mit freiem Zutritt zu allen Schreibtischen. Ich unterrichtete zu der Zeit an der Schule des Technischen Außendienstes. Wir wurden dazu gebeten, unsere persönlichen Sachen, Notizen, usw. aus den Schreibtischen zu entfernen und auf Wunsch alles zugänglich zu machen. (So etwas vergißt man nicht, kommt aber kaum an die Öffentlichkeit).

Die Entwicklung ging über Finanzleasing zum Kauf der H/W und Lizenzen für jedes Stück S/W - ob Hersteller (IBM) oder freie S/W-Firmen. So wie die meisten hier es vom PC her kennen. Nachden die H/W immer preiswerter wurde, verlegte sich das Verdienen auf S/W und Org-Lösungen. Die jetzige Open-Source-Bewegung ist letztlich eine logische Weiterentwicklung zum damaligen "Unbundling", diesmal Schwerpunkt Betriebssystem <-> App. Die Selbstbeschränkung KI (mit Selbstbehalt interner Info) ist vor diesem Hintergrund aus meiner persönlichen Sicht ein Versuch zur Marktbeschränkung und Ausbremsung Open-Source.
 
Zuletzt bearbeitet:
kev.lin schrieb:
Ich finde diese Podcast Episode bringt es gut auf den Punkt - die Selbstbeschränkung ist eigentlich ein Scam.
  1. Die angepriesene allwissende und universelle KI ist nicht wirklich da. Keine Frage, die aktuelle KI ist sehr leistungsstark und beeindruckend, aber die AGI (Artificial general intelligence) ist aktuell noch nicht da - es ist immer noch der Eingriff des Menschen notwendig. (Ausnahme ist wahrscheinlich der Bereich Programmierung)
  2. Die großen US-KI-Betreiber sind durch die Open-Weight-Modelle aus Fernost in Bedrängnis. Diese Modelle hinken den Modellen der US-Konzernen zwar hinterher, aber der Vorsprung schmilzt und vor allem die Tatsache, dass diese Modelle frei nutzbar sind, bringt die Konzerne in Bedrängnis. Geht die Entwicklung so weiter, werden die Ausgaben der US-Betreiber (Rechenzentren, Entwicklung, etc.) nicht wieder eingespielt, da keiner bereit ist, für die Modell-Nutzung die geforderten Preise (Abo-Gebühren) zu zahlen. Die Börsengänge der Unternehmen sind aktuell auch kein Ausweg, weil die Performance (bezogen auf die Kosten und Ausgaben/Investitionen) aktuell noch nicht gut genug ist (siehe Punkt 1).
  3. Die Konzerne bauen eine Drohkulisse auf, dass KI die Menschheit auslöschen könnte. Nur eine staatliche Regulierung könnte dies lösen und sollte eingesetzt werden. Nur diese Regulierung wird dann die beiden zuvor genannten Punkte (Probleme) für die Konzerne lösen. Vergleichbare Methoden wie diese "Panikmache" ("Fear Mongering") wurden auch im 19. Jahrhundert eingesetzt um den Menschen Angst vor der sich durchsetzenden Eisenbahn zu machen.
  4. Die BRICS-Staaten denken darüber nach, dass offene AI-Lösungen zum weiteren Wachsen der Staaten beitragen soll. Das ist genau das Gegenteil von dem, was die US-Konzerne sich wünschen. Einige Forscher sehen in der Zukunft zwei mögliche Wege:
    1. KI ist OpenSource und offen und bringt Gesellschaften und Individuen immensen Fortschritt
    2. KI wird von einigen wenigen Konzernen kontrolliert und kommerzialisiert und die breite Masse bleibt diese Technologie verwehrt
Zum Vergrößern anklicken....

Mornsgrans schrieb:
Dorthin geht ja derzeit die Tendenz, indem man KI-Token kaufen muss, um diese nutzen zu können. Die Investitionen der KI-Firmen müssen sich ja rentieren, daher wird eine Opensource-Lösung eher unrealistisch sein.
Zum Vergrößern anklicken....

Ich glaube, wir laufen gerade dahin, dass die Token zu Hause generiert werden, auch ohne 5.000€ für eine Grafikkarte ausgeben zu müssen.
Die Firmen (OpenAI ca Faktor 3 Ausgaben zu einnahmen) werden in Zukunft immer weniger Token verkaufen anstatt umgekehrt, also immer weniger profitabel werden.
Ich beschäftige mich ein bisschen mit lokalen LLM und die Fortschritte in kurzer Zeit sind krass!
Wenn die Modelle immer größer werden, durch die „Kompression“ dann also immer weniger an Qualität einbüßen und riesige Modelle letztendlich in 10-20GB Vram passen, wird sich doch ein Großteil der Leute, die die LLMs wirklich so nutzen, dass sie Token en Masse benötigen, die Token dann selber generieren und die KI Lokal betreiben.
Die Privatleutchen, die die KI als Ersatz zur Suchmaschine nutzen, werden den finanziellen Karren zumindest nicht aus dem Dreck ziehen

www.heise.de

Geschrumpfte Chatbots: So passt die KI plötzlich in 4 GByte RAM

Quantisierung ermöglicht große Sprachmodelle auf Consumer-Hardware. Bonsai verspricht 27B-LLMs mit wenig RAM – auch auf Handys.
www.heise.de www.heise.de
 
Ich gebe Dir insoweit Recht, dass dies für IT-Affine und viele Unternehmen zutreffen mag. Aber "Durchschnitts-User", die ausschließlich "anwenden", sind mehr oder weniger auf die Angebote im Netz "angewiesen", besonders auf die LLMs. Das wird auch auf mobile Nutzer weitgehend zutreffen.
 
In meiner (zugegebenermaßen vielleicht etwas naiven) Vorstellung, öffnet auch Otto-Normal dann einfach eine App auf dem Handy, wie ChatGPT/Claude/sonst was, die das LLM dann halt nur im Speicher betreibt, anstatt auf ein großes Rechenzentrum zuzugreifen.
Oder installiert sich ein Programm auf dem Rechner, als würde man Netflix etc installieren, was dann das LLM idealerweise direkt noch in Word etc einbindet - was ja teilweise auch schon ganz ordentlich funktioniert. Nur der Schritt zu "Iditoensicher" fehlt halt noch.
Ich sehe da nicht so das Problem, dass man da in Zukunft besonders Technikaffin sein müsste, um in den Genuss zu kommen.

Es sei denn, die großen Techkonzerne, angetreten, um die Welt zu verbessern 🤡, finden noch eine Lösung heraus aus ihrem finanziellen Dilemma, eben durch Regulierung von offenen und/oder lokalen betriebenen Modellen bzw der Verbreitung... das gerade die selbsternannten Endgegner von Regulierung genau danach schreien, ist schon mindestens verwunderlich und man sollte das Ganze genauer im Blick behalten...

Ich bin auf jeden Fall sehr gespannt, welche Richtung das Ganze Thema KI noch nimmt.
Spannenden Entwicklung. Technisch, aber auch die gesellschaftliche Komponente.

#freeLLMauf12GBVRAM 😅
 
OpenAI hat wieder einmal ins Klo gegriffen:
www.heise.de

OpenAI-Agent knackt australisches Regierungsportal

Eine KI sollte Gesundheitsstatistiken suchen – und knackte dabei ein australisches Regierungsportal. Die Empörung ist groß.
www.heise.de www.heise.de

Mal sehen, wann unsere Krankenkassen melden, das die Elektronischen Patientenakten durch KI abgegriffen wurden. Sicherheitsmechanismen scheinen die KI-Agenten locker umgehen zu können.
 
kordesh schrieb:
Ich glaube, wir laufen gerade dahin, dass die Token zu Hause generiert werden, auch ohne 5.000€ für eine Grafikkarte ausgeben zu müssen.
Die Firmen (OpenAI ca Faktor 3 Ausgaben zu einnahmen) werden in Zukunft immer weniger Token verkaufen anstatt umgekehrt, also immer weniger profitabel werden.
Ich beschäftige mich ein bisschen mit lokalen LLM und die Fortschritte in kurzer Zeit sind krass!
Wenn die Modelle immer größer werden, durch die „Kompression“ dann also immer weniger an Qualität einbüßen und riesige Modelle letztendlich in 10-20GB Vram passen, wird sich doch ein Großteil der Leute, die die LLMs wirklich so nutzen, dass sie Token en Masse benötigen, die Token dann selber generieren und die KI Lokal betreiben.
Die Privatleutchen, die die KI als Ersatz zur Suchmaschine nutzen, werden den finanziellen Karren zumindest nicht aus dem Dreck ziehen

www.heise.de

Geschrumpfte Chatbots: So passt die KI plötzlich in 4 GByte RAM

Quantisierung ermöglicht große Sprachmodelle auf Consumer-Hardware. Bonsai verspricht 27B-LLMs mit wenig RAM – auch auf Handys.
www.heise.de www.heise.de
Zum Vergrößern anklicken....
Eine schöne Vorstellung: KI lokal zu betreiben. Ich hoffe es wird sich bewahrheiten und die Kompression für Modelle soweit voranschreiten, dass die möglich sein wird.

Ich beschäftige mich mit dem Thema lokaler KI ebenfalls und bei der Recherche gelesen, dass wenn man auf die Funktion "Chatbot" (also, dass man mit dem LLM chatten kann) verzichten kann, ein lokaler Einsatz ggf. auch umsetzbar ist ohne immense private Investitionen zu tätigen. Beispielhaftes Anwendungsszenario: Über eingescannte Dokumente soll eine Texterkennung drüber laufen soll. Mir persönlich ist es egal, ob das 10min dauert oder (z.B. über Nacht) 2 Stunden. Ich bin gerade dabei zu testen ob man so etwas auch im normalen Ram (DDR4/DDR5, mit weit geringerem Token/s -Durchsatz) umsetzen kann.

Aber generell denke ich, dass es ein langer Weg ist, bis Lieschen Müller sich zu Hause ihr LLM startet um damit ihre Steuererklärung zu bewältigen. Wir hier in einem solchen Forum sind alle technik-affin. Aber ich merke im Alltag oft, dass das scheinbar nicht für alle Menschen gilt! ;)
 
Der vermutlich erste größere KI-unterstützte Datendiebstahl:
www.heise.de

Angriff mit KI-Agenten auf hunderte Shops: 600.000 Kreditkartendaten geklaut

Ein Angreifer hat hunderte Online-Shops mit KI-Agenten angegriffen und dabei Daten von mehr als 600.000 Kreditkarten abgegriffen.
www.heise.de www.heise.de

Die KI-Agenten haben die Angriffe weitgehend autonom ausgeführt, erklären die Analysten. Dabei haben sie zig Unternehmen am Tag ins Visier genommen. Die IT-Forscher konnten nachvollziehen, dass dabei mindestens Daten von 600.000 Kreditkarten, die noch nicht abgelaufen waren, von zwei Unternehmen kopiert wurden. Bei fünf Unternehmen haben die KI-Agenten Skimmer-Skripte installiert, die Kreditkartendaten abgreifen. Der oder die Angreifer erhielten in unterschiedlichem Umfang Zugriff auf Systeme, etwa auf die eines Fortune-500-Unternehmens aus dem Gastgewerbe, einer großen US-Fluglinie, eines großen US-Distributors für Industriebedarf und eines US-amerikanischen Online-Modehändlers.
Zum Vergrößern anklicken....

Flexibel war er auch noch:
Forbes zufolge hat Anthropic das genutzte Konto identifiziert und gesperrt, Cloudflare gab dort ebenfalls an, die Infrastruktur des Angreifers bereits abgeschaltet zu haben – der habe jedoch schnell neue Server eingerichtet.
Zum Vergrößern anklicken....
 
Zuletzt bearbeitet:
Du musst dich einloggen oder registrieren, um hier zu antworten.
  • ok1.de
  • thinkstore24.de
  • ok2.de - Notebook Computer Server
  • Preiswerte-IT - Gebrauchte Lenovo Notebooks kaufen

Werbung

Zurück
Oben