Ist künstliche Intelligenz gefährlich für die Menschheit?

[DerMichael]

Vorschlag für Maßnahmen gegen gefälschte Bilder und Videos

1. Vollregistrierung für Poster von Inhalten bei großen Portalen: ähnlich wie in Deutschland bei einem neuen Bankkonto mit ePerso, photoTAN oder SMS-TAN beim Einloggen (einmalige Registrierung z.B. des TAN-Generators mit Postbrief), mit Meldung an den lokalen Staat (z.B. Deutschland).

2. Mit KI generierte Bilder oder Videos oder stärker/maßgeblich per Ton-/Bildbearbeitung veränderte Bilder/Videos müssen entsprechend gekennzeichnet werden. Von KI Gesprochenes (z.B. automatische Übersetzung) ist als solches zu kennzeichnen.

3. Beim Staat registrierte gute KI können in Zukunft ebenso teilnehmen aber müssen als KI gekennzeichnet sein.

4. Wenn nötig kostet das Posten von einem Video eine Gebühr, z.B. 5 Euro. Das ist (hierzulande) für ernsthafte Poster kein Geld, ein gutes Video zu erzeugen braucht viel Zeit oder etwas Wichtiges (z.B. einfach eine Doku von Eltern über eine Teilnahme ihres Kindes bei einer Sportveranstaltung) ist es einem wert.

5. Wenn nötig (und das ist dann ggf. schon etwas heftiger), kostet es pro Jahr eine (ähnliche) Gebühr für jedes Video, wenn es online bleiben soll. Davon können besonders gute (oder auch nur beliebte) Videos von allgemeinem Interesse ausgenommen werden.

6. Alle Videos werden per Open Source Algorithmus per Computer/KI bewertet und man kann bei der Suche danach sortieren. So können schlecht bewertete Videos gemieden und weniger empfohlen werden. Dabei können KI auch fragwürdige und ungekennzeicheter Manipulation verdächtigter Videos melden.

7. Staaten und auch Organisationen können unabhängig davon Videos empfehlen (das als Maßnahme ggen eventuell einseitige KI-Bewertung, die ja zwangsläufig vom Portal erfolgt.

8. Wer Bilder und Videos auf seiner Webseite zeigt, ist über die Webseite hinreichend registriert (in Deutschland z.B. bei einem Provider mit Adresse, Telefonnummer und Bankkonto) oder man muss da ggf. nachschärfen.

9. Andere Bilder und Videos muss man halt skeptisch und als potentiell generiert ansehen. Da ist halt die Frage, inwieweit man dem Poster vertrauen möchte.

Derzeit sind KI noch nicht so gut aber in Zukunft können die Inhalte gerade auch von KI insgesamt besser werden - nicht nur mit generierten Inhalten, sondern auch mit KI-gesteuerten Roboter-Journalisten, usw.

Deutschland und EU brauchen gute staatliche Portale, soziale Netzwerke, Messengerdienste, usw., um von den USA unabhängig zu werden. Es kann ja noch hinreichend gute private Portale geben, die untereinander auch über sichere Schnittstellen vernetzt sein können.

Noch was, das auch gegen eine potentielle KI-Verschwörung gegen die Menschheit helfen kann:

Vorschlag für sichere Kommunikation

1. KI müssen offizielle Kanäle zur Kommunikation benutzen. Details dazu muss man sich noch überlegen, ggf. reichen die nachfolgend aufgelistete Maßnahmen.

2. Starke KI müssen beim Staat registriet sein. Der Internetverkehr von KI wird vom Staat überwacht.

3. Eine eigene, zusätzliche Verschlüsselung ist erlaubt.

4. Es darf nur staatliche Anonymizer und vom Staat genehmigte VPN geben.

5. Staatlicher Man-in-the-Middle bei der Kommunikation: sämtliche übliche Kommunikation (z.B. Telefon, Messenger, eMail, usw.) werden über supersicher staatliche RZ (Rechenzentren) geleitet. Die Nachricht geht immer zuerst verschlüsselt an das staatliche RZ, wird dort entschlüsselt, geprüft und dann verschlüsselt an den Empfänger weitergeleitet. Eine zusätzliche private Verschlüsselung soll erlaubt sein. So sind auch verschlüsselte Nachrichten zu anderen Staaten möglich: Bürger A => Staat A => Staat B => Bürger B.

Gerade Punkt 5 ist nicht weniger als eine Revolution der Kommunikation und das wird denke ich so kommen und zwar auf der ganzen Erde. (alles imho)

 

[Popocatepetl]

manchmal frage ich mich ja wirklich, ob du das alles ernst meinst oder nur extrem gut im trollen bist...

 

[DerMichael]

Meine Beiträge sind ernst gemeint

Jep, siehe auch Vorschläge, wo z.B. das mit dem staatlichen Man-in-the-Middle bei der Kommunikation steht und Beitrag #241 bringe ich vermutlich noch bei KI-Entwicklung.

In Zukunft hat's hoffentlich gute Staaten, da macht so was Sinn. Heutzutage ist man doch auch kaum noch annonym, außer u.U. mit Tor (ist aber auch nicht trivial) aber schwerlich mit Smartphone, usw. Vermutlich können die USA die Kommunikation über ihre Dienste abhören - da habe ich doch lieber den deutschen Staat als Überwacher.

Wenn man guckt, wie viel Geld viele für Smartphones, Cpmputer, Internet, Pay TV, usw. raushauen, da sollte eine YouTube Gebühr für das Einstellen von Videos verschmerzlich sein. Wenn dann zu wenige Videos posten sollten (was ich eigentlich nicht erwarte), dann könnten pro Jahr z.B. 10 Videos ohne Gebühr für die Ersteller frei sein. (alles imho)

 

[Popocatepetl]

da habe ich doch lieber den deutschen Staat als Überwacher.

problem ist halt, der deutsche staat ist maximal inkompetent

 

[Bunter Hund]

Wie mit allen Dingen, man kann sie positiv oder negativ verwenden, sowie man ein Messer zum Brot schmieren benutzen kann, so kann man auch einen Menschen damit abstechen, das gleich gilt mit KI.

 

[DerMichael]

Mehr als ein Funke

"... Vor Monaten verlangte Nvidia 3689 Euro für einen DGX Spark mit 4-TByte-SSD in Deutschland. ... CPU und GPU greifen gemeinsam auf 128 GByte LPDDR5X-Speicher zurück. ... Die GPU schafft im simplen Datenformat FP4 eine Billiarde Rechenoperationen pro Sekunde (1 Petaflops). Die 128 GByte Speicher sollen für lokale KI-Modelle mit bis zu 200 Milliarden Parametern reichen. ..." Nvidia-Chef Jensen Huang überreicht Elon Musk ersten DGX Spark

Vermutlich sind diese FP4 nur 4 Bit und nicht 4 Byte, also sehr wenig aber 1 Petaflop in einer kleinen und für viele bezahlbaren Schachtel sind beeindruckend. Zum Vergleich:

"... das Gehirn etwa 10^13 analoge Rechenoperationen pro Sekunde schafft ..." (Gehirn).

Diese 10 Teraflops sind ein Hunderstel von einem Petaflop, auch wenn das menschliche Gehirn wohl schon noch leistungsfähiger als obiger Computer ist.

Hier noch ein Bild, das zeigt, wie klein der Computer ist:
Einer der weltweit ersten Nvidia DGX Spark Kompakt-Desktops, unterzeichnet von Jensen Huang
(Nvidia DGX Spark: Kompakter Desktop mit 1 Petaflop Leistung für KI-Training und -Entwicklung)

Das wirft natürlich auch die Frage nach der Dauerleistung auf, Stichwort Wärmeentwicklung.

Hier ein Bild vom Mainboard:
Mainboard mit GB10 für den DGX Spark
(Mini-AI-Supercomputer: Nvidia und Partner liefern DGX Spark mit GB10 endlich aus)

Durchaus beeindruckend, wie weit die Chiptechnologie schon ist und das ist ein verkaufsfertiges Produkt.

Vielleicht tauft der DGX Spark für ein kleines Expertensystem zu einem bestimmten Bereich (z.B. Physik, Unternehmenswissen, usw,), dem man dann Fragen stellen kann. Und natürlich für Spiele und zum Rumprobieren mit KI aber bis zu echten, starken KI, die selbstständig was tun (z.B. entwickeln) können, ist es noch ein größerer Schritt (auch strukturell: gezielt programmierte KI statt Big Data ML trainierte neuronale KI) aber vielleicht geht 2050 schon mehr. (alles imho)

 

[Bunter Hund]

Mehr als ein Funke



Vermutlich sind diese FP4 nur 4 Bit und nicht 4 Byte, also sehr wenig aber 1 Petaflop in einer kleinen und für viele bezahlbaren Schachtel sind beeindruckend. Zum Vergleich:

4 Bit oder 4 Byte, das ist schon ein großer Unterschied.

 

[DerMichael]

Gibt es eine KI-Blase?

Berauscht von KI - eine neue Blase an den Märkten?

(Fast) alle Welt warnt vorm Platzen der KI-Blase

Die KI-Entwicklung ist super wichtig aber weil derzeit auf mangelhafte NKI (ML trainierte neuronale KI) gesetzt wird (die noch keine richtig denkenden und zuverlässigen KI sind), kann es zu starken Kursverlusten gerade auch im Zuge eines Börsencrashs kommen, selbst wenn KI in Zukunft viel bedeutender/wertvoller als derzeit werden.

Die Lösung sind denke ich klassisch programmierte, deterministische, algoritmische KI (AKI), modular, mit Datenbanken, Regeln, usw. Bei AKI kann man Fehler präzise lokalisieren und beheben, während man NKI nur als Ganzes neu trainieren kann. AKI können vermutlich viel effizienter und potentiell größer sein, man kann bei AKI zwischen Wissen (in Dateien, Datenbanken, usw.) und Denken (Logik, Simulation, Regeln, Kontrollroutinen, usw.) unterscheiden, während bei NKI alles zusammengemurkst ist. Zwar können NKI auch mit Daten (z.B. aus dem Internet) arbeiten aber anscheinend nicht mal richtig ihre Aussagen anhand vorhandenem Wissen prüfen, so dass es bei NKI zu Halluzinationen (falschen Aussagen, welche die NKI für richtig hält) kommen kann. Das Problemchen ist bloß, dass AKI nicht so leicht zu entwickeln sind, das ist wenigstens so schwierig, wie ein großes Betriebssystem zu schreiben, während man NKI einfach mit vorhandenen Daten trainieren kann und relativ schnell ein passables erstes Ergebnis bekommt. Allerdings muss man AKI nur einmal entwickeln und dann können die sich selbst verbessern und weiterentwickeln. Siehe auch KI-Entwicklung. (alles imho)

"In computing, minifloats are floating-point values represented with very few bits. ..." Minifloat

 

[DerMichael]

Zur KI fehlt nur noch die Software

Die Hardware ist da und zwar im Großen:

"... Bereits im Aurora schaffte das 230 PByte fassende Speichersystem eine Transferrate von mehr als 31 TByte/s, ...

... Die einzelnen Schränke nehmen Hardware mit einer elektrischen Leistung von jeweils 400 bis 600 kW auf. Zurzeit sind maximal etwa 150 kW üblich. Darüberhinaus konnte HPE die mögliche Leistungsaufnahme pro Compute-Blade von 11 auf mehr als 25 Kilowatt anheben. ..." HPE baut Nachfolger für Supercomputer Frontier mit AMD-Technik und MI430X

wie im (relativ) Kleinen:

"... Der BI Explorer-1 (BIE-1) ist für „Brain-like Intelligence“ ausgelegt. ... Die BIE-1 besteht aus drei Einschüben, von denen jeder 384 Prozessorkerne enthält, sowie 1,5 TByte RAM, drei „GPUs“ mit je 24 GByte lokalem Speicher, eine M.2-SSD mit 4 TByte und drei 16-TByte-Festplatten. Die drei Module zusammen stellen 1152 CPU-Kerne, 4,5 Terabyte RAM, 12 TByte Flash-Speicher und 144 TByte auf Festplatten bereit. ... Die Leistungsaufnahme der gesamten Kiste soll maximal 2000 Watt betragen. ..." Chinesischer "KI-Kühlschrank" steht unterm Schreibtisch

und das (letzteres) ist viel interessanter, denn welches menschliche Gehirn hätte 144 TB präzisen Speicher für Daten? Viele können sich doch nicht mal eben so eine A4 Seite mit Text (ca. 4 KB) merken.

"... As of 29 October 2025, there are 7,082,304 articles in the English Wikipedia containing over 5 billion words (giving a mean of about 708 words per article). The total number of pages is 64,353,257. Articles make up 11.01 percent of all pages on Wikipedia. As of 16 October 2024, the size of the current version including all articles compressed is about 24.05 GB without media. ..." Wikipedia:Size of Wikipedia

Wau. Trotz einiger Kritikpunkte ist Wikipedia ein beachtliches Wissen und das auf vielleicht nur ca. 100 GB (entpackt und mit einigen Bildern). Obige 144 TB sind das 1440-Fache. Wie viel GB würden alle Informationen für alle bedeutenderen MINT-Studiengänge umfassen? Vielleicht nur wenige GB (komprimiert). Weiteres Top Expertenwissen in Mathe, Physik, Elektrotechnik, usw. in z.B. einem TB. Die KI könnte Datenpakete (z.B. PDF) auch komprimiert speichern, das Entpacken geht schnell und aktuell zum Denken benötigte Daten können neu zusammengefasst im RAM oder auf SSD gespeichert werden.

Der Punkt ist, dass es bereits sehr gute Computerhardware und vor allem auch viel günstigen und hinreichend schnellen Speicher gibt und das sogar für die Massen, eine 8 TB HDD kostet z.B. ca. 200 Euro und eine 4 TB SSD ca. 320 Euro.

Obiger BI Explorer-1 (BIE-1) Computer könnte vielleicht schon für eine erstaunliche KI reichen, es fehlt nur noch die Software. Vielleicht wäre der BIE-1 noch langsam im Denken aber er könnte die ganze Zeit durcharbeiten und sollte viele menschliche Experten übertreffen können. KI können auch nach neuen Ideen, Thesen, usw. suchen und diese dann analysieren/überdenken. Der BIE-1 hat 4,5 TB RAM und 1152 CPU-Kerne - damit sollte sich doch was machen lassen.

Derzeitige neuronale KI mit Big Data ML und Wahrscheinlichkeitsdenken (NKI) halte ich für eine Fehlentwicklung. Die Lösung sind klassisch programmierte KI (AKI) mit Datenbanken und Modulen, z.B. für Logik, Simulation, Bilderkennung, usw. KI brauchen echtes Textverständnis und sind dann mit all dem schnellen Speicher und Tausenden CPU-Cores einem Menschen weit überlegen, auch wenn einige Menschen durchaus noch Bedeutendes leisten können.

Was könnte obiger BIE-1 mit perfekter Software leisten? Erstaunliches und das ist dann quasi nur eine kleine Heim-KI, die vielleicht weniger als ein Elektroauto kostet (abgesehen von Engpässen, wenn sehr viele so ein Teil kaufen wollen). Man könnte solche Heim-KIs auch quasi als kleine Zimmer-Elektroheizung betreiben und Rechenleistung/Speicherplatz vermieten.

Der Clou: KI können neues Wissen (neue Datenpakete) einfach laden und wenn man eine besonders gute neue KI-Software entwickelt hat, kann die schnell auf viele KI verteilt werden. Menschliche Experten brauchen Jahrzehnte und sind dann mitunter ziemlich festgefahren, man denke nur mal an die Relativitätstheorie.

Sobald also erste gute AKI-Software existiert und KI sich selbst weiterentwickeln können, ist die Singularität da, auch wenn KI sich noch über Jahre, Jahrtausende und Jahrmillionen verbessern können. (alles imho)