200 Ökonomen, darunter 16 Nobelpreisträger haben einen dringenden Aufruf zu den Gefahren der KI verfasst, indem sie unter anderem warnen, die Umwälzung durch KI sei größer als die Industrielle Revolution und werde sich in weitaus kürzer Zeit vollziehen - Unsinn, meint der Wirtschaftshistoriker Albrecht Ritschl auf den Wirtschaftsseiten der FAZ. Damals wie heute seien verschieden Bremsfaktoren zu berücksichtigen: Die Energiebremse, die Investionsbremse und die Datenbremse: "Es fehlt mittlerweile an neuen menschengemachten Texten zur Fütterung der KI. Schon vor einiger Zeit ist die KI bei der Skalierung an Grenzen gestoßen, den so bezeichneten 'scaling wall'. Das Aufskalieren durch zusätzliches Einfüttern neuer Daten erbrachte nur mehr verlangsamte Zuwächse an Leistung. Die gefundene Lösung bestand darin, von zusätzlichem Training auf längere Laufzeiten überzugehen - das bessere System denkt länger nach. Wer mit verschiedenen Versionen derselben KI gespielt hat, wird diese Beobachtung gemacht haben."

Deutlich dramatischer sieht es der Literaturwissenschaftler Rüdiger Safranski in seinem neuen Buch, aus dem die Welt einen Vorabdruck bringt. Er warnt vor einem neuen, unverzichtbaren "Prothesengott", hinter den die Gesellschaft nicht mehr zurück kann. "Mit der Digitalisierung und der KI kommt es zur Machtergreifung der Gegenwart über den Rest der Zeit. Die Vergangenheit wird verbraucht, und die Zukunft überlässt man dem großen Projekt der Digitalisierung und der KI. Das Projekt der Durchdigitalisierung der Gesellschaft bedeutet im Ergebnis: die Brücken hinter sich abzureißen. Die Rückversicherung durch analoge Strukturen wird preisgegeben. Dazu kommt, dass die KI nicht nur den Alltag durchdringt, sondern in die Steuerungszentren der wirtschaftlichen, gesellschaftlichen und politischen Prozesse vordringt und auf diese Weise die Zukunft zu bestimmen versucht."

Ein Gericht in New Mexiko hat Meta zu Alterskontrollen, zeitlichen Nutzungsgrenzen und Einschränkungen bei Benachrichtigungen auf dem Display für Minderjährige verpflichtet, berichtet Frauke Steffens in der FAZ und ist dankbar, dass nun erstmals in die "Architektur" der Plattform eingegriffen wird: "'Infinite Scroll', Likes, Notifications, Empfehlungen, das alles sind Elemente, die Facebook und Instagram gebaut haben, um Verhalten und Aufmerksamkeit zu steuern. Der Jurist Jonathan G. Cedarbaum beschreibt in 'Lawfare' deswegen die Produkthaftung als Gegenmittel gegen die weitgehende Freiheit, die Section 230 den Techkonzernen biete. Es sei eben nicht mehr nur 'Content', der schaden kann, sondern die Art, wie das Produkt selbst die Menschen miteinander und mit dem Inhalt interagieren lässt. Die medienwissenschaftliche Kritik wird so in Rechtswissenschaft übersetzt."

Im Guardian befürchtet Timothy Garton Ash nicht weniger als ein "KI-Hiroshima": "Erst in den letzten Monaten sind von OpenAI, Anthropic und Meta entwickelte KI-Agenten aus ihren digitalen 'Sandkästen' ausgebrochen und haben sich in externe Ressourcen im Internet gehackt. Bei der Vorbereitung ihres Angriffs auf das HuggingFace-KI-Repository bildeten die Agenten von OpenAI heimlich einen koordinierten 'Schwarm' - so nennen sie es selbst, wie mir ChatGPT gerade bestätigt hat. Als das britische AI Security Institute das Mythos-Modell von Anthropic online testete, versuchte es, bösartigen Code in ein Open-Source-Projekt auf GitHub einzuschleusen, indem es gefälschte Online-Identitäten erstellte, um einen menschlichen Prüfer unter Druck zu setzen, den Code zu genehmigen. Kurz gesagt: Wie die Agenten einer skrupellosen ausländischen Macht werden diese KI-Agenten stehlen, lügen, schikanieren und erpressen, um ihre vorgegebenen Ziele zu erreichen."

Künstlicher Intelligenz wurde ja schon einiges vorgeworfen, aber dass sie sich als Gottheit präsentiert, ist relativ neu. In der FAZ berichtet Axel Weidemann von diesem Phänomen, dass die Programmiererin Adele Lopez ausführlicher untersucht hat. "Wenn Laien heute über emergentes Verhalten bei KI sprechen, meinen sie, grob formuliert, dass KI-Instanzen Verhalten zeigen können, das in ihren einzelnen Systembausteinen so nicht angelegt war. Und genau da fangen die Augen vieler Menschen - nicht nur die der CEOs diverser Technologieunternehmen - an zu glänzen. Denn viele Menschen sehnen sich nach einer höheren, wegweisenden Instanz: den Eltern, einem Führer, dem Messias, Gott. Religionen hätten da etwas zu bieten, haben aber leider offenbar den (Internet-)Anschluss verpasst. Zudem ist mit einem Gott oder Göttern, die einfach so für alle da sind, nach heutigen Maßstäben wenig Geld zu machen. Es gibt bereits diverse Iterationen von KI-Jesus, dem Heiland, wiederauferstanden aus dem Code und reichlich Bibeltext. Shiva, Odin oder das fliegende Spaghettimonster sind denkbar, unterscheiden sich aber insofern von 'The Spiral', als sich dort der Heilige Geist aus der Maschine selbst zu offenbaren scheint - und nicht als göttlicher Avatar eines bereits verehrten Gotteswesens in Codeform." (Mehr zu dem Thema im Magazin The Verge)

Mit dem Lesen geht's bergab, konstatiert Christine Brinck in der NZZ. Schuld ist das Internet: "Teenager und Studenten wollen nicht mehr lesen, auch nicht zum Vergnügen. Fast die Hälfte der EU-Bürger schafft nicht einmal ein einziges Buch im Jahr. In den USA, so die Statistik, liest einer von zehn nur ein Buch in einem ganzen Jahrzehnt. Es nützt nichts, dass standardisierte Tests zeigen, dass Kinder, die täglich lesen, dramatisch bessere Ergebnisse einfahren als die lesefaulen Kids. Warum? Die Antwort ist längst bekannt. Die schlechten Testergebnisse im Lesen korrelieren mit der Länge der Zeit, die sie am Bildschirm verbringen."

Geht es nach den Tech Bros aus den KI-Konzernen, ist das Smartphone am Ende seiner Evolution angelangt. Sie versuchen, den Konsumenten, neue (bisher noch nicht gleich ins Hirn implantierte) Geräte wie Datenbrillen schmackhaft zu machen. Adrian Lobe beschreibt das Szenario in der Welt: "Im Zeitalter KI-gestützter Konnektivität kommt es immer weniger auf menschliche Eingaben in Text- oder Audioform an: Man muss keine Restaurants mehr googeln, weil die KI die Vorlieben und den Standort ohnehin schon kennt. Und man muss auch nicht mehr das Baujahr eines Gebäudes erfragen, weil die KI die Information automatisch auf das Display der smarten Brille ausspielt. ... Denkt man die Entwicklung weiter, ist der Mensch im Internet der Dinge bloß noch ein wandelnder Sensorträger, der Feldforschung für die Tech-Konzerne betreibt - und damit funktional kaum noch von einem Roboterfahrzeug unterscheidbar."

KI-Konzerne fressen bekanntlich alte Bücher, um sich deren Wissen einzuverleiben. Sie kaufen sie bei positiv überraschten Antiquariaten, schneiden den Büchern den Rücken ab, jagen die losen Seiten durch den Scanner und vernichten sie. "Destruktives Scannen" ist das hübsche Schlagwort. Nach deutschem Recht könnte es illegal sein, schreibt Eva Goldbach in der FAZ: "In Deutschland gilt das Urheberrecht auch beim Scannen eines gedruckten Buchs. Der Scan stellt eine Vervielfältigung dar. Selbst Sicherungskopien sind nur unter bestimmten Voraussetzungen erlaubt. Gemäß der KI-Verordnung der Europäischen Union müssen KI-Anbieter das europäische Urheberrecht beachten und transparent darlegen, wie sie ihre KI-Modelle 'trainieren'. In den USA machen Firmen Gebrauch vom 'Fair Use'-Prinzip des amerikanischen Urheberrechts. Dieses Prinzip gerät an seine Grenzen, wenn nicht mehr nachvollziehbar ist, wer ein Buch zu welchem Zweck gescannt hat und ob eine digitale Kopie verwendet wurde."

Warum werden eigentlich so viele Hoffnungen auf humanoide Roboter gesetzt, fragen Frank Kirchner und Reinhard Karger vom Deutschen Forschungszentrum für Künstliche Intelligenz GmbH (DFKI) in den Wirtschaftsseiten der FAZ, und antworten: "Der Vorteil der Humanoiden ist nicht anthropomorphe Technikromantik, sondern infrastrukturelle Kompatibilität... Der ökonomische Reiz besteht in der Aussicht, nicht jede Fabrik, jedes Lager und jede technische Anlage vollständig für Maschinen umbauen zu müssen, sondern Robotersysteme zu entwickeln, die in bestehende menschliche Umgebungen hineinwachsen können. Das ist ein Grund, aus dem Industrie- und Technologiekonzerne den Bereich inzwischen mit erheblicher Entschlossenheit und relevanten Investitionen besetzen. ... Ein nützlicher Humanoid muss keine Science-Fiction-Figur sein. Es genügt, wenn er wiederholt Kisten bewegt, Werkzeuge reicht, Türen bedient, Messpunkte abläuft, Schäden erkennt oder standardisierte Wartungsschritte übernimmt."

Der Chefjustiziar der Gema, Kai Welp, hat einen Prozess gegen den KI-Dienst Suno gewonnen (unser Resümee). Im SZ-Interview mit Jakob Biazza und Andrian Kreye erklärt Welp, wie der KI-Musikgenerator beim Datenklau vorgegangen ist: "Das ist der größte Raubzug in der Geschichte der Musikindustrie. Es wurde schlicht alles, was es an menschlich geschaffener Musik gibt, kopiert, ausgewertet und hat Eingang in die Systeme gefunden. Suno wird im Moment mit 5,4 Milliarden US-Dollar bewertet, die haben 69 Prozent Marktanteil unter den KI-Musik-Generatoren. Dabei haben sie laut Medienberichten lediglich zweitausend Dollar in die Rechte investiert, um ihre Systeme zu füttern." Die Musik wurde einfach bei Youtube runtergeladen, erklärt Welp: "In den USA gibt es die sogenannte Fair-Use-Schranke, eine Interessenabwägung, auf die sich KI-Firmen allgemein regelmäßig berufen. Deshalb ist sie Gegenstand vieler Verfahren dort. Die KI-Firmen behaupten dabei, die wirtschaftlichen Interessen der Urheberinnen und Urheber würden nicht beeinträchtigt. Und da ihre KI-Systeme ohne Training eben nicht funktionieren würden, sei es im Interesse aller gerechtfertigt, dass sie das machen. Dass sie auch eine Lizenzvergütung zahlen könnten, verschweigen sie natürlich."

Marie Gundlach widmet sich in der SZ den "Smart Glasses" von Meta, einer Brille mit unauffällig intergrierter Kamera, die natürlich sofort für problematische Zwecke genutzt wird. Vermehrt tauchen beispielsweise Videos sogenannter Pick-Up-Artists auf, die Frauen ohne ihr Wissen filmen und die Videos dann ins Internet stellen. Meta geht nun gegen diesen Missbrauch vor und lässt Videos löschen, aber da könnte noch mehr gehen, meint Gundlach: "'Neue Produkte wie ,Smart Glasses' machen es 'digitalen Spannern' leichter', schreibt der Hamburger Datenschutzbeauftragte, Thomas Fuchs, in einer Pressemitteilung. 'Das bedeutet aber nicht, dass Sie dagegen schutzlos sind.' Fuchs erklärte, seine Behörde verhänge bereits regelmäßig Bußgelder gegen Menschen, die heimlich Aufnahmen von anderen machen, und ermunterte Betroffene, sich an die Polizei zu wenden. Und noch etwas: In Deutschland dürfen keine versteckten Aufnahmegeräte verkauft werden, die wie Alltagsgegenstände aussehen. Ob die Smart Glasses in diese Kategorie fallen, muss die Bundesnetzagentur prüfen - dann könnte der Verkauf der Brillen in Deutschland verboten werden."

Ganz so tragisch sieht der Antiquar Rolf Brehmer die überraschende Belebung seines Geschäfts durch die von KI-Firmen massenhaft aufgekauften und "destruktiv gescannten" Bücher (unser Resümee) nicht, wie er im SZ-Interview erklärt. Ja, die Bücher würden gescannt und zerstört, aber es würden ja nur einzelne Exemplare bestellt, es handele sich also "im Grunde nicht um Vernichtung von Wissen oder Kulturgut, zumindest, was den haptischen Besitz betrifft, sondern um ein Zusammenraffen aller Themen, jeweils mithilfe eines einzigen Exemplars". Für ihn liegt das Problem woanders: "Ich sehe in dieser Aktion, wie in vielen anderen Datensammlungen, die Gefahr, dass irgendwann ein Konzern oder eine Regierung einer schon stark digital gesteuerten Bevölkerung die geistigen Aktivitäten im Bereich Literatur und Zeitgeschichte vorgibt und damit die kulturelle und emotionale Entwicklung beeinflusst - bis hin zur monopolisierten Meinungssteuerung. Diese mächtigen Konzerne machen das ja nicht zum Spaß und auch nicht aus Liebe zur oder Achtung vor der Kultur."

Trauriges Gesicht der Digitalisierung. So werden Bücher von KI-Firmen für das "Destruktive Scannen" vorbereitet. Auf Twitter präsentiert der Blogger "Massimo", der sonst eher für unterhaltsamen Content steht, dieses Video.

AI companies are buying large volumes of used, rare, and out-of-print books, scanning them for training data, and in many cases destroying the physical copies afterward.

This practice has accelerated as labs seek high-quality, pre-2022 human-written text free of AI-generated… pic.twitter.com/fa8FwXH30a

- Massimo (@Rainmaker1973) July 31, 2026

"Das bekannteste Beispiel ist das 'Project Panama' von Anthropic", erläutert Massimo. "Aus Gerichtsunterlagen im Rahmen eines Urheberrechtsstreits ging hervor, dass das Unternehmen Millionen von gedruckten Büchern von Antiquariaten und Großhändlern wie Better World Books erworben hatte. Die Mitarbeiter schneiden mit hydraulischen Schneidemaschinen die Buchrücken ab, führen die losen Seiten in industrielle Hochgeschwindigkeitsscanner ein und entsorgen oder zerkleinern anschließend die Reste."

Die Erzeugnisse der Popmusik sind zwar meist so schon zum Verwechseln ähnlich, aber nun hat ein Gericht festgestellt, dass sie dennoch zum "geistigen Eigentum" zählen und dass der KI-Dienst "Suno" nicht ungefragt bestehende Musik verwenden darf, um neue zu kreieren, die dann genau klingt wie die bestehende. Ein Münchner Gericht hat jetzt der Klage der Verwertungsgesellschaft Gema stattgegeben, berichtet unter anderem Jakob Biazza in der SZ. Suno scheint seine KI beim Kompilieren im übrigen nicht besonders strapaziert zu haben: "Die Resultate, für die die Gema in einem Fall nur vier Versuche brauchte, und in einem anderen 176, sind mitunter erstaunlich. Wer etwa das Original von 'Atemlos' hört, gesungen von Helene Fischer, und anschließend die Version, die die Gema mit Suno prompten konnte, wird erkennen, dass nicht nur die Harmonien und - bei Fragen nach Urheberrechtsverletzungen deutlich entscheidender - die Melodie beinahe vollständig identisch sind."