The undo/redo shortcuts ctrl+z, ctrl+shift+z and ctrl+y should work consistently across all browsers.
Search articles & cards
Gestern Abend habe ich eine Rede im Rahmen der Vortragsreihe “Neurowissenschaften, KI und Gesellschaft” der Universität Washington gehalten, veranstaltet vom Computational Neuroscience Center der Universität. Der Titel war „Der umgekehrte Zentaur: Ein Leitfaden zur KI-Kritik“, basierend auf dem Manuskript meines nächsten Buches „Der umgekehrte Zentaur: Ein Leitfaden zum Leben nach der KI-Ära“, das im kommenden Juni von Farrar, Straus und Giroux veröffentlicht wird. Der Vortrag war zwar ausverkauft, aber hier ist der Text zu meiner Rede.
Artikel ansehen
Zusammenfassung ansehen
Der umgekehrte Zentaur: Ein Leitfaden zur KI-Kritik
Text: Cory Doctorow
Quelle: https://pluralistic.net/2025/12/05/pop-that-bubble
Übersetzung: Bernd Sieker und Leena Simon überarbeitet von Chris
Gestern Abend habe ich eine Rede im Rahmen der Vortragsreihe “Neurowissenschaften, KI und Gesellschaft” der Universität Washington gehalten, veranstaltet vom Computational Neuroscience Center der Universität. Der Titel war „Der umgekehrte Zentaur: Ein Leitfaden zur KI-Kritik“, basierend auf dem Manuskript meines nächsten Buches „Der umgekehrte Zentaur: Ein Leitfaden zum Leben nach der KI-Ära“, das im kommenden Juni von Farrar, Straus und Giroux veröffentlicht wird.
https://www.eventbrite.com/e/future-tense-neuroscience-ai-and-society-with-cory-doctorow-tickets-1735371255139
Der Vortrag war zwar ausverkauft, aber hier ist der Text zu meiner Rede;
Ich bin der Universität Washington sehr dankbar für diese Gelegenheit und einen wundervollen Aufenthalt in Seattle.
Ich bin Science-Fiction-Autor. Das heißt, es ist meine Aufgabe, mir futuristische Parabeln über unsere gegenwärtige sozio-technologische Situation auszudenken. Nicht nur, um zu hinterfragen, was ein Gerät tut, sondern für wen es das tut und wem es das antut.
Ich mache keine Vorhersagen über die Zukunft. Niemand kann die Zukunft vorhersagen, und das ist auch gut so. Wenn die Zukunft vorhersagbar wäre, hieße das, dass nichts, was wir tun, sie ändern könnte. Es würde bedeuten, dass die Zukunft wie auf Schienen läuft und nicht gelenkt werden kann. Meine Güte, was für eine erbärmliche Vorstellung!
Diese Unterscheidung ist aber nicht allen bewusst. Sie glauben, Science-Fiction-Autor.innen seien Orakel oder Wahrsager. Auch viele meiner Kolleg.innen leiden leider unter der Wahnvorstellung, „die Zukunft sehen“ zu können.
Aber auf jeden SF-Autor, der sich selbst einbildet, die Zukunft zu schreiben, kommen Hunderte von SF-Fans, die glauben, die Zukunft lesen zu können, und eine deprimierende Anzahl dieser Leute sind anscheinend KI-Jünger geworden. Weil diese Leute nicht aufhören können, von dem Tag zu reden, an dem ihre aufgemotzte Vervollständigungsmaschine erwachen und uns alle in Büroklammern verwandeln wird, haben viele verwirrte Journalisten und Konferenzveranstalterinnen versucht, mich zu einer Aussage zur Zukunft von KI zu bewegen.
Das habe ich immer strikt abgelehnt. Ich habe schon zwei Jahre meines Lebens darauf verschwendet, immer wieder geduldig zu erklären, warum Kryptowährungen meiner Meinung nach eine dämliche Idee sind. Dafür wurde ich unablässig von Krypto-Kult-Leuten niedergemacht, die erst behaupteten, ich hätte keine Ahnung von Krypto und dann, sobald ich klargemacht hatte, dass ich Krypto sehr wohl verstehe, darauf bestanden, dass ich geschmiert sein müsse. Das ist buchstäblich dasselbe, was in Diskussionen mit Scientologen passiert, und dafür ist das Leben Einfach. Zu. Kurz.
In noch so einen Sumpf wollte ich nicht hineingezogen werden. Denn einerseits glaube ich nicht, dass KI eine ganz so wichtige Technologie ist, und andererseits habe ich sehr differenzierte und komplizierte Ansichten darüber, was mit KI schiefläuft und was nicht, und es dauert lange, das zu erklären. Aber Leute haben immer wieder nachgefragt, und deshalb habe ich getan, was ich immer tue. Ich habe ein Buch geschrieben.
Ich habe den Sommer dafür genutzt, ein Buch darüber zu schreiben, was ich über KI denke, aber eigentlich eher darüber, was ich über KI-Kritik denke, oder noch genauer, was eine gute KI-Kritikerin ausmacht. Im Klartext: „Wie man ein Kritiker sein kann, dessen Kritik den größtmöglichen Schaden verursacht an den Teilen von KI, die am meisten Unheil anrichten.“ Das Buch habe ich "Der umgekehrte Zentaur: Ein Leitfaden zum Leben nach der KI-Ära" genannt, und das Verlagshaus Farrar, Straus und Giroux wird es im Juni 2026 veröffentlichen.
Aber so lange werdet ihr nicht warten müssen, denn ich werde heute Abend die These des gesamten Buches für euch darlegen, in den kommenden 40 Minuten. Ich werde schnell reden.
Ein umgekehrter Zentaur ist folglich ein Maschinenkopf auf einem menschlichen Körper, eine Person, die einer gefühllosen Maschine als wabbeliger Fleischfortsatz dient.
Ganz so wie ein Amazon-Fahrer, der in seiner Kabine sitzt, umgeben von KI-Kameras, die die Augen des Fahrers beobachten und Punkte abziehen, wenn er in eine bestimmte Richtung blickt, die den Mund des Fahrers überwachen, weil Singen während der Arbeit nicht erlaubt ist und die den Fahrer beim Chef verpfeifen, wenn die Quote nicht erfüllt wird.
Der Fahrer sitzt im Wagen, weil der Wagen sich nicht selbst fahren und nicht selbst das Paket vom Bordstein zu deiner Tür bringen kann. Der Fahrer ist nur ein Peripheriegerät für das Fahrzeug, und das Fahrzeug fährt den Fahrer mit übermenschlicher Geschwindigkeit und verlangt übermenschliche Ausdauer. Doch der Fahrer ist ein Mensch, und der Wagen braucht den Fahrer nicht nur, er nutzt den Fahrer aus und verschleißt ihn (engl. " use up"). Natürlich ist es schön, ein Zentaur zu sein, und es ist schrecklich, ein umgekehrter Zentaur zu sein.
Es gibt viele KI-Tools, die potentiell sehr zentaurenartig sein können, aber ich behaupte, dass diese Tools vorsätzlich zu dem Zweck entwickelt und finanziert wurden, umgekehrte Zentauren zu erzeugen, was nun wirklich niemand sein will.
Aber wie ich schon sagte, die Aufgabe eines SF-Autors ist es, mehr zu tun, als nur darüber nachzudenken, was ein Ding tut, sondern tiefergehend nachzuforschen, für wen das Ding dies tut, und wem es das antut. Die Tech-Bosse wollen uns weismachen, dass eine Technologie nur auf eine einzige Weise genutzt werden kann. Marc Zuckerberg will, dass du es für technisch unmöglich hältst, eine Unterhaltung zu führen, ohne dass er dabei zuhört. Tim Cook will, dass du es für technisch unmöglich hältst, dich auf deinen Computer zu verlassen, es sei denn, er bekommt ein Vetorecht darüber, welche Software du installierst, und vorausgesetzt, dass er sich 30 Cent von jedem Euro nehmen darf, den du ausgibst. Sundar Pichai will, dass du es für unmöglich hältst, eine Webseite zu finden, ohne dass er dich dabei nach Strich und Faden ausspioniert.
Das ist nichts anderes als ein vulgärer Thatcherismus. Der Wahlspruch von Margaret Thatcher war: „Es gibt keine Alternative“. Sie wiederholte es so oft, dass sie „TINA“ Thatcher genannt wurde, nach den Anfangsbuchstaben der englischen Version „There. Is. No. Alternative.“
„Es gibt keine Alternative“ ist ein billiger rhetorischer Trick. Es ist eine Forderung, die sich als Feststellung verkleidet. „Es gibt keine Alternative“ soll heißen: „HÖRT AUF, ÜBER ALTERNATIVEN NACHZUDENKEN.“ Ganz ehrlich, scheiß drauf!
Ich bin SF-Autor und es ist meine Aufgabe, mir schon vor dem Frühstück ein Dutzend Alternativen auszudenken.
Ich sag euch, was in meinen Augen mit dieser KI-Blase los ist. Lasst uns mal den Bockmist von der Wirklichkeit trennen und klären, wie wir zu besseren KI-Kritiker.innen werden können und auch sollten.
Jetzt könnte man meinen, es wären gute Nachrichten für die Tech-Firmen, dass ihnen ganze Marktbereiche gehören. Aber in Wirklichkeit ist es eine Krise. Wenn eine Firma wächst, wird sie als Wachstumsaktie gehandelt, und Investoren mögen Wachstumsaktien wirklich gern. Wenn man Anteile an solchen Wachstumsaktien erwirbt, wettet man darauf, dass sie weiter wachsen. Entsprechend werden Wachstumsaktien zu einem Vielfachen ihres Gewinns gehandelt. Das nennt man das „Kurs-Gewinn-Verhältnis“ oder KGV.
Aber sobald eine Firma aufhört zu wachsen, werden ihre Anteile zu „reifen“ Aktien und werden zu einem weitaus niedrigeren KGV gehandelt. Das heißt z.B. Target (eine etablierte Firma) ist für jeden Dollar, den sie erwirtschaftet, zehn Dollar wert. Sie hat ein KGV von 10, während Amazon ein KGV von 36 hat, d. h. für jeden Dollar, den Amazon erwirtschaftet, beträgt der Marktwert 36 Dollar. Es ist herrlich, eine Firma zu haben, die Wachstumsaktien hat. Die Anteile sind praktisch wie Geld. Wenn du eine andere Firma kaufen willst oder eine Schlüsselposition zu besetzen hast, kannst du Aktien anbieten statt Bargeld. Und Aktien sind für Firmen sehr einfach zu beschaffen, weil sie direkt auf dem Firmengelände hergestellt werden: Man braucht nur ein paar Nullen in eine Tabelle einzutippen. Dollars dagegen lassen sich viel schwieriger auftreiben: Eine Firma kann sie nur von Kunden oder Kreditgeberinnen beschaffen.
Wenn also Amazon gegen Target bietet, bei einer wichtigen Anschaffung oder Besetzung einer wichtigen Stelle, dann kann Amazon Aktien anbieten, die sie einfach selbst herstellen, indem sie ein paar Nullen in eine Tabelle eintragen. Target kann nur Geld anbieten, das sie bekommen, indem sie uns Dinge verkaufen oder Kredite aufnehmen, weswegen Amazon solche Angebotskriege typischerweise gewinnt.
Das ist der Vorteil von Wachstumsaktien. Aber es gibt auch einen Nachteil: Irgendwann ist Schluss mit Wachstum. Wenn du beispielsweise 90 % Marktanteil in deinem Bereich hast, wie willst du dann noch weiter wachsen?
Sobald der Markt entscheidet, dass du keine Wachstumsaktie mehr bist, sobald du am Markt etabliert bist, wirst du neu bewertet mit einem KGV, das sich für eine reife Aktie geziemt.
Wenn du in der Geschäftsführung einer dominierenden Firma mit Wachstumsaktien bist, musst du ständig mit der Angst leben, dass der Markt irgendwann entscheidet, dass du wahrscheinlich nicht mehr weiter wachsen wirst. Man muss sich nur ansehen, was mit Facebook im ersten Quartal 2022 passiert ist. Sie hatten bekannt gegeben, dass ihr Wachstum in den USA minimal hinter den Erwartungen zurückgeblieben war und die Anleger.innen verfielen in Panik. Sie veranstalteten einen eintägigen 240-Milliarden-Dollar-Ausverkauf. Eine Viertelbillion Dollar in 24 Stunden! Der bis dato größte und sprunghafteste Wertverlust einer Firma in der Geschichte der Menschheit.
Das ist der schlimmste Albtraum eines Monopolisten, denn sobald du eine „etablierte“ Firma leitest, wird dein Schlüsselpersonal, das du bisher mit Aktien entlohnt hast, plötzlich einen massiven Gehaltsabsturz erfahren und die Flucht ergreifen. Das heißt, du verlierst genau die Leute, die du bräuchtest, um wieder zu wachsen. Ersatz kannst du aber nur noch mit Dollars anheuern. Mit Dollars, nicht Aktien.
Dasselbe gilt für die Übernahme von Firmen, die dir beim Wachsen helfen könnten, denn auch diese erwarten jetzt Geld statt Aktien. Das ist das Paradoxon der Wachstumsaktien. Solange man in Richtung Marktherrschaft hin wächst, liebt dich der Markt. Doch sobald man die Marktherrschaft erreicht hat, wird der Markt auf einen Schlag 75 % deines Wertes oder mehr abzwacken, wenn er deiner Preissetzungsmacht nicht mehr vertraut.
Deshalb pumpen Firmen mit Wachstumsaktien verzweifelt eine Blase nach der anderen auf und geben Milliarden aus, um einen Hype zu erzeugen, für die Neuausrichtung auf Video, oder Kryptowährung, oder NFTs, oder Metaverse, oder KI.
Ich sage gar nicht, dass die Bosse der Tech-Firmen Wetten eingehen, die sie nicht gewinnen wollen.
Aber ich behaupte, dass das Gewinnen der Wette – ein überlebensfähiges Metaversum zu schaffen – nur Nebenziel ist. Das Hauptziel ist es, im Markt die Überzeugung aufrechtzuerhalten, dass deine Firma weiter wachsen wird, und diesen Glauben so lange am Leben zu halten, bis die nächste Spekulationsblase daherkommt. Genau dafür veranstalten sie diesen ganzen KI-Hype: als materielle Grundlage für hunderte Milliarden von KI-Investitionen.
Die KI-Verheißung – das Versprechen, das KI-Firmen ihren Anleger.innen geben – ist, dass es KIs geben wird, die deine Arbeit erledigen können, und wenn dein Chef dich feuert und durch eine KI ersetzt, wird er die Hälfte deines Gehalts selbst einstecken, und die andere Hälfte der KI-Firma geben. Das war's.
Das ist die 13-Billionen-Dollar-Wachstums-Geschichte, die Morgan Stanley uns erzählen will. Das ist der Grund dafür, dass große Investoren und Kapitalsammelstellen den KI-Firmen hunderte Milliarden Dollar geben. Und weil sie sich darauf stürzen, werden Normalos auch mit aufgesaugt und riskieren ihre Altersrücklagen und die finanzielle Sicherheit ihrer Familien.
Also selbst wenn KI deine Arbeit machen könnte, wäre das immer noch ein Problem. Wir müssten uns überlegen, was wir mit all diesen Tech-Arbeitslosen machen sollen. Aber die KI kann deine Arbeit nicht machen; sie kann dir helfen, deine Arbeit zu machen. Das bedeutet aber nicht, dass es irgendjemandem Geld spart. Zum Beispiel in der Radiologie: Offenbar kann KI manchmal Tumore identifizieren, die manche Radiologen übersehen, und wisst ihr, ich habe Krebs. Zum Glück ist er gut behandelbar, doch ich habe Interesse daran, dass die Radiologie so zuverlässig und genau wie möglich ist.
Würde meine Kaiser-Klinik radiologische Diagnose-Tools kaufen und ihren Radiologinnen erklären: „Hört zu, Leute, wir machen das folgendermaßen: Heute könnt ihr 100 Röntgenbilder am Tag bearbeiten. Ab jetzt werden wir vom KI-Tool jeweils unmittelbar eine zweite Meinung einholen, und wenn die KI denkt, dass ihr einen Tumor übersehen habt, bitten wir euch, nochmal genauer hinzusehen, selbst wenn das bedeutet, dass ihr nur noch 98 Röntgenbilder am Tag schafft. Das ist in Ordnung, denn uns geht es nur darum, dass wir alle Tumore finden.“
Wenn sie das sagen würden, wäre ich begeistert. Aber niemand investiert hunderte Milliarden in KI-Firmen aus dem Glauben, KI würde die Radiologie teurer machen, nicht einmal, wenn das die Radiologie genauer machen würde. Der Markt hat auf KI folgende Wette abgeschlossen: Ein KI-Vertreter besucht den Geschäftsführer der Klinik mit der Werbeaussage: „Pass auf, du entlässt 90 % deiner Radiologen, das spart dir 20 Millionen im Jahr, du gibst uns davon 10 Millionen, und machst selbst einen Gewinn von 10 Millionen. Die Aufgabe der verbliebenen Radiologinnen ist es, die Diagnosen zu überwachen, die die KI mit übermenschlicher Geschwindigkeit erstellt, und dabei irgendwie aufmerksam zu bleiben, obwohl die KI meistens recht hat, außer wenn sie einen katastrophalen Fehler macht.
Und wenn die KI einen Tumor übersieht, ist es die Schuld des menschlichen Radiologen, weil er der‚ Mensch in der Kontrollschleife‘ ist. Er hat schließlich die Diagnose unterschrieben.“
Das ist ein umgekehrter Zentaur, und zwar eine ganz spezielle Art umgekehrter Zentaur: das, was Dan Davies „Verantwortungs-Senke“ genannt hat. Die Aufgabe des Radiologen ist eigentlich gar nicht, die Arbeit der KI zu überwachen, sondern die Schuld für Fehler der KI auf sich zu nehmen.
Das ist ein weiterer Schlüssel, um die KI-Blase zu verstehen und ihr so die Luft abzulassen. KI kann deine Arbeit nicht machen, aber ein KI-Handelsvertreter kann deinen Chef davon überzeugen, dich zu feuern und durch KI zu ersetzen, die deine Aufgabe nicht erfüllen kann. Das zu verstehen ist entscheidend, denn es hilft uns dabei, Allianzen zu schmieden, die im Kampf gegen die KI-Blase erfolgreich sein werden.
Angenommen, du machst dir Sorgen um eine mögliche Krebserkrankung, und dir wird erzählt, dass radiologische Untersuchungen so billig sein könnten, dass sie nicht abgerechnet werden müssten.
Und der Preis dafür wäre, dass die 32.000 Radiolog.innen in Amerika woanders unterkommen müssten, aber dafür müsste nie wieder jemandem eine radiologische Untersuchung verweigert werden. Dann würdest du vielleicht sagen: „Ja, das tut mir leid um die Radiologen, und ich bin dafür, dass sie Umschulungsmaßnahmen bekommen oder ein bedingungsloses Grundeinkommen, oder was auch immer. Doch das Ziel der Radiologie ist es, Krebs zu bekämpfen, nicht Radiologen zu bezahlen, also weiß ich, wofür ich mich entscheiden würde.“
KI-Hausierer und ihre Kunden in den Chef-Etagen wollen die Öffentlichkeit auf ihrer Seite haben.
Sie wollen eine Klassen-Allianz schmieden zwischen den KI-Entwicklern und den Leuten, die gerne die Früchte der Arbeit der umgekehrten Zentauren ernten. Sie wollen, dass wir uns für Feinde der Angestellten halten.
Jetzt werden sich einige Leute auf die Seite der Beschäftigten schlagen – aus politischen oder ästhetischen Gründen. Sie mögen Arbeiter.innen einfach lieber als deren Chefs. Aber wenn du alle Leute für dich gewinnen willst, die von deiner Arbeit profitieren, musst du verstehen und betonen, wie es kommt, dass KI-Produkte minderwertig sein werden. Dass sie mehr bezahlen werden für schlechtere Produkte. Dass sie mit dir wichtige Interessen teilen.
Automatisierungsblindheit ist die Achillesferse von „Menschen in der Kontrollschleife“.
Denkt zum Beispiel an KI-generierte Software: Es gibt viele Programmierer.innen, die den Einsatz von KI lieben, und das sind praktisch ohne Ausnahme leitende, erfahrene Programmierer.innen, die selbst entscheiden dürfen, wie sie diese Tools einsetzen. Zum Beispiel könnte man KI bitten, einen Satz CSS-Dateien zu erzeugen, um eine Webseite korrekt auf diversen Versionen verschiedener Browser darzustellen. Das ist eine notorische Fummelarbeit, und es ist relativ einfach festzustellen, ob der Code funktioniert. Man schaut sich einfach die Webseite in verschiedenen Browsern an.
Oder die Programmiererin hat eine einzelne Datei mit Daten, die sie importieren muss, und will kein ganzes Programm schreiben, um sie zu konvertieren. Solche Aufgaben können einen Programmierer wirklich effizienter machen und ihm mehr Zeit geben für die Teilaufgaben des Programmierens, die Spaß machen, nämlich das Lösen von wirklich verzwickten, abstrakten Problemen. Aber wenn man die führenden Leute im Business über ihre KI-Pläne für Programmierer.innen reden hört, wird klar, dass es ihnen nicht darum geht, Zentauren zu bauen.
Sie wollen jede Menge Angestellte im technischen Bereich entlassen – in den letzten drei Jahren betraf das schon 500.000 – und dann dafür sorgen, dass die Verbliebenen die Programmierarbeit übernehmen, was nur möglich ist, wenn man KI die ganze verzwickte, kreative Problemlösungsarbeit übernehmen lässt. Man selbst muss dann den langweiligsten, zermürbendsten Teil der Arbeit machen: den KI-generierten Code überprüfen.
Und weil KI nur ein Wort-Rate-Programm ist, weil das Berechnen des wahrscheinlichsten nächsten Wortes alles ist, was KI kann, sind ihre Fehler besonders subtil und daher schwer zu finden. Denn statistisch sind sie von funktionierendem Code buchstäblich nicht zu unterscheiden (abgesehen davon, dass es Fehler sind).
Ein Beispiel: Programmierer.innen verwenden in ihren Anwendungen Code-Bibliotheken, die ihnen einen Haufen sich wiederholender Programmierarbeit ersparen. Wenn du zum Beispiel ein Stück Text verarbeiten willst, nutzt du eine Standardbibliothek. Für HTML-Dateien ist der Name so einer Bibliothek vielleicht etwas wie lib.html.text.parsing; für eine Word-Datei wäre es lib.docx.text.parsing. Doch die Realität ist eher chaotisch, Menschen sind unaufmerksam und Dinge geraten durcheinander. Manchmal gibt es dann eine andere Bibliothek, um PDF-Dateien einzulesen, und statt lib.pdf.text.parsing heißt sie dann lib.text.pdf.parsing.
Und weil nun KI eine statistische Inferenzmaschine ist, weil sie nichts anderes kann, als anhand aller bisher getippten Wörter das nächste Wort vorherzusagen, wird sie eine Bibliothek namens lib.pdf.text.parsing herbei-„halluzinieren“. Und das Dumme ist, dass böswillige Hacker wissen, dass KI diesen Fehler macht, und gezielt eine Bibliothek mit dem vorhersehbar halluzinierten Namen lib.pdf.text.parsing erzeugen. Diese Bibliothek wird dann automatisch in dein Programm eingebunden, und Dinge tun wie Nutzerdaten klauen oder versuchen, in andere Computer in demselben Netzwerk einzudringen.
Und du, der Mensch in der Kontrollschleife – der umgekehrte Zentaur – musst diesen subtilen, schwer zu findenden Fehler erkennen, diesen Bug, der buchstäblich statistisch ununterscheidbar von korrektem Code ist. Gut, erfahrene Programmiererinnen würden das möglicherweise entdecken, weil sie wissen, wie der Hase läuft, und weil sie diesen Fallstrick kennen.
Aber ratet mal, wen die Tech-Bosse am liebsten entlassen und durch KI ersetzen wollen! Die erfahrenen Programmierer. Diese vorlauten, anmaßenden, extrem gut bezahlten Angestellten, die sich gar nicht für Angestellte halten. Die sich als Gründer in Wartestellung sehen, dem Top-Management ebenbürtig. Die Art Programmierer.innen, die einen Streik angezettelt haben, weil die Firma Drohnen-Zielsysteme für das Pentagon gebaut hat, was Google 2018 zehn Milliarden Dollar gekostet hat.
Damit KI einen Wert hat, muss sie die hochbezahlten Angestellten ersetzen, und gerade das sind die erfahrenen Mitarbeitenden mit Prozesswissen, die ihre Intuition auf die harte Tour erworben haben, und die vielleicht einige der statistisch getarnten KI-Fehler erkennen könnten.
Es geht, wie erwähnt, ja genau darum, die hochbezahlten Beschäftigten zu ersetzen. Und einer der Gründe, warum KI-Firmen so darauf erpicht sind, Programmiererinnen zu feuern, besteht darin, dass Programmierer die Fürsten der Arbeit sind. Sie werden am Arbeitsmarkt konsequent bevorzugt, sind besonders nachgefragt und werden am besten entlohnt. Und wenn man selbst Programmierer durch KI ersetzen kann, wen könnte man dann nicht ersetzen? Programmiererinnen zu entlassen ist Werbung für KI.
Zur Erklärung: Im Schnitt verdienen Grafiker.innen gar nichts. Sie gehören schon jetzt zu den am stärksten verarmten, prekären Arbeitnehmergruppen. Sie leiden an einer Krankheit, die sich „Berufsehrfurcht“ nennt. Der von der Bibliothekarin Fobazi Ettarh geprägte Ausdruck bezeichnet Angestellte, die anfällig dafür sind, am Arbeitsplatz ausgenutzt zu werden, weil ihnen ihre Arbeit tatsächlich am Herzen liegt – Krankenpflegerinnen, Bibliothekare, Lehrerinnen und Künstler.
Wenn KI-Bildgeneratoren alle heute arbeitenden Grafiker.innen arbeitslos machen würden, dann wäre der dadurch gesparte Lohn ein verschwindend geringer Bruchteil der Kosten, die mit Training und Betrieb solcher KI-Bildgeneratoren verbunden sind. Die Gesamtlohnkosten aller professionellen Grafiker.innen sind niedriger als die Kombucha-Rechnung der Kantine eines einzigen OpenAI-Campus.
KI-Kunst und die Erzählung von KI-Kunst als Todesurteil für Künstlerinnen haben denselben Zweck: die Allgemeinheit zu überzeugen, dass KI großartig ist und fantastische Dinge vollbringen kann. Es soll Aufsehen erregen. Das soll nicht heißen, dass es nicht widerlich ist, dass Mira Murati (die frühere technische Leitung von OpenAI) auf einer Konferenz gesagt hat, es hätte „einige Arbeitsplätze in der Kreativbranche nie geben sollen“. Oder dass es nicht besonders abstoßend ist, dass sie und ihre Kolleg.innen damit angeben, das Werk von Künstlern zu benutzen, um die Lebensgrundlage eben dieser Künstler zu zerstören.
Es sollte abstoßend sein. Es sollte Kulturschaffende dazu bringen, aufzustehen und allen zu sagen: „die KI kann meine Arbeit machen, und sie nimmt mir die Arbeit weg, ist das nicht entsetzlich?“ KI-Kunden – Firmenbosse – finden es nämlich gar nicht schlimm, dass KI den Angestellten die Jobs wegnimmt. Sie finden es ganz wunderbar.
Doch kann KI die Arbeit eines Grafikers übernehmen? Oder die irgendeiner Künstlerin?
Denken wir mal kurz drüber nach. Ich bin schaffender Künstler, seit ich mit 17 meine erste Kurzgeschichte verkauft habe. Ich habe lange darüber nachgedacht und ich denke, Kunst ist Folgendes: Alles beginnt mit einem Künstler, der in seinem Geist ein riesiges, komplexes, numinoses, nicht reduzierbares Gefühl verspürt. Und der Künstler gießt dieses Gefühl in ein künstlerisches Medium. Er erschafft ein Lied, ein Gedicht, ein Gemälde, eine Zeichnung, einen Tanz, ein Buch oder eine Fotografie. Damit in dem Moment, in dem du dieses Werk erlebst, ein Abbild des großen, numinoses, nicht reduzierbaren Gefühls in deinem Geist entsteht.
Jetzt, nachdem ich Kunst definiert habe, machen wir einen kleinen Abstecher.
Ein Freund von mir ist Professor für Rechtswissenschaften, und vor dem Aufstieg der Chatbots wussten Jurastudis genau, dass es sich nicht lohnt, ihre Profs um ein Empfehlungsschreiben zu bitten, es sei denn, sie wären richtig gut. Denn solche Briefe waren verdammt lästig zu schreiben.
Wenn eine Bewerberin um eine Postdoc-Stelle ein Empfehlungsschreiben einer angesehenen Professorin hatte, dann bedeutete die bloße Existenz dieses Dokuments, dass die Professorin eine sehr hohe Meinung von dieser Studentin hatte.
Doch dann kamen die Chatbots, und jeder weiß, dass man ein solches Empfehlungsschreiben erzeugt, indem man ein LLM mit drei Stichpunkten füttert, und schon spuckt es fünf Absätze blumigen Unsinn über den Studenten aus.
Wenn mein Freund heute eine Postdoc-Stelle ausschreibt, wird er von Empfehlungsschreiben überflutet. Und er weiß sich nicht anders zu helfen, als diese Schreiben dann an einen anderen Chatbot zu verfüttern, damit der sie wieder auf drei Stichpunkte reduziert. Offensichtlich sind das dann nicht mehr dieselben Stichpunkte, was die ganze Sache so schrecklich macht.
Genauso offensichtlich ist, dass nichts in den fünf Absätzen dieses Briefs, außer den ursprünglichen drei Stichpunkten, für den Studenten relevant ist. Der Chatbot kennt den Studenten nicht. Er weiß nichts über ihn. Er kann dem Brief nicht eine einzige wahre oder nützliche Aussage über den Studenten hinzufügen.
Und was hat das alles mit KI-Kunst zu tun? Kunst ist der Transfer von großen, numinosen, nicht reduzierbaren Gefühlen von einem Künstler auf jemand anderen. Doch das bildgenerierende Programm weiß überhaupt nichts von deinem großen, numinoses, nicht reduzierbaren Gefühl. Das Einzige, was es weiß, ist, was auch immer du in deinen Prompt geschrieben hast. Diese wenigen Sätze werden verdünnt und auf über eine Million Pixel oder Hunderttausend Wörter gestreckt, sodass die mittlere Kommunikationsdichte des daraus entstandenen Werks von Null nicht zu unterscheiden ist.
Es ist durchaus möglich, mehr kommunikative Absicht in ein Werk zu gießen: detailliertere Prompts schreiben, mühevoll aus vielen Varianten eine auswählen, oder nachträglich direkt am KI-Bild herumtüfteln, mit einem Pinsel, mit Photoshop oder Gimp. Und wenn es jemals ein KI-Kunstwerk geben wird, das gute Kunst ist – statt einfach nur beeindruckend oder interessant oder handwerklich gut gezeichnet – dann wird es diesen zusätzlichen kreativen Intentionen zu verdanken sein, die durch einen Menschen in das Werk eingebracht wurden.
Bis dahin ist es schlechte Kunst. Schlechte Kunst im Sinne von „gespenstisch“ (engl. „eerie“). Das Wort hat Mark Fisher benutzt, um zu beschreiben, „wenn etwas da ist, wo nichts sein sollte, oder wo nichts da ist, obwohl etwas da sein sollte.“
KI-Kunst ist gespenstisch, weil es scheint, als stünde hinter jedem Wort und jedem Pixel eine Absicht und jemand, der diese Absicht verfolgt, weil wir aus lebenslanger Erfahrung wissen, dass Gemälde Maler haben und dass Geschriebenes Autorinnen hat. Doch es fehlt etwas. Es hat nichts zu sagen, oder was immer es zu sagen hat, ist so stark verdünnt, dass es nicht mehr auszumachen ist.
Die Bilder waren beeindruckend, solange wir den Trick noch nicht kannten, doch jetzt sind sie einfach nur wie Bilder, die wir in Wolken oder Laubhaufen sehen. Wir sind es, die einen Teil der Szene einrahmen, wir sind es, die sich auf bestimmte Konturen konzentrieren und andere ignorieren. Wir schauen auf einen Tintenklecks, und er hat uns nichts zu sagen.
Das kann gelegentlich optisch fesselnd sein, und solange sich nur eine Gruppe aus Promptern und Betrachterinnen damit amüsiert, ist es auch harmlos.
Ein Bekannter von mir spielt jede Woche über Zoom Dungeons & Dragons-Rollenspiele. Die Sitzung wird von einem Open-Source-Modell transkribiert, das lokal auf dem Computer des Spielleiters läuft, und das die nächtliche Spielsitzung zusammenfasst und dann einen Prompt für einen Bildgenerator erzeugt, der von wichtigen Augenblicken Illustrationen generiert. Diese Zusammenfassungen und diese Bilder sind urkomisch, weil sie voller Fehler stecken. Es ist ein harmloses Vergnügen, und bringt einer kleinen Gruppe von Menschen ein bisschen zusätzlichen Spaß. Niemand wird einen Grafiker feuern, weil sich D&D-Spieler lustige Illustrationen generieren lassen, in denen Paladine mit sieben Fingern gegen Orks kämpfen, die eine Hand zu viel haben.
Doch Chefs feuern Grafiker.innen, und werden das auch weiterhin tun, weil sie sich ausmalen, wie sie sich der Kreativ-Profis entledigen, und stattdessen einfach einen KI-Prompt schreiben. Denn obwohl KI die Arbeit des Grafikers nicht machen kann, kann ein KI-Vertreter den Chef des Grafikers überzeugen, diesen zu entlassen und durch eine KI zu ersetzen, die seine Arbeit nicht machen kann.
Dieser kritische Augenblick ist widerlich und schrecklich, und wir sollten nicht einfach mit den Achseln zucken und den Thatcher-Fatalismus hinnehmen: „Es gibt keine Alternative.“
Doch ich muss euch sagen, das ist falsch: falsch, weil dies ungeheure Kollateralschäden anrichten würde. Es würde eine massive Ausweitung urheberrechtlicher Einschränkungen an gesellschaftlich nützlichen Aktivitäten bedeuten, die bisher – aus gutem Grund! – erlaubt waren.
Nehmen wir mal die einzelnen Schritte des Trainings von KI-Modellen auseinander.
Als Erstes greift man die Inhalte von einem Haufen Webseiten ab. Das ist unter aktuell geltendem Urheberrecht zweifellos legal. Man braucht keine Lizenz, um von einem urheberrechtlich geschützten Werk eine temporäre Kopie anzulegen, um sie zu analysieren, denn sonst wären auch Suchmaschinen illegal. Wenn wir dieses Sammeln verbieten, wird Google die letzte Suchmaschine gewesen sein, und das Internet-Archiv wird seinen Betrieb einstellen müssen. Auch der Typ in Österreich, der die Preise von allen Supermarkt-Websites abgegriffen hat und damit beweisen konnte, dass die großen Ketten unter einer Decke steckten, um Preise zu manipulieren, wäre dann in echten Schwierigkeiten.
Als Nächstes werden die gesammelten Inhalte analysiert. Im Wesentlichen zählt man Zeug. Man zählt Pixel und deren Farben, und den Abstand zu anderen Pixeln. Oder man zählt Wörter. Dafür braucht man offensichtlich auch keine Lizenz. Es ist halt nicht verboten, die Elemente eines geschützten Werkes zu zählen. Und wir wollen auf keinen Fall, dass das verboten wird, jedenfalls nicht, wenn wir auch nur im Geringsten an Forschung interessiert sind.
Es ist wichtig festzuhalten, dass es legal ist, Dinge zu zählen, selbst wenn man mit einer Kopie arbeitet, die man unrechtmäßig erworben hat. Wenn du zum Beispiel auf einem Flohmarkt eine Bootleg-CD kaufst, sie mit nach Hause nimmst und dann eine Liste von allen Adverbien in den Texten erstellst und veröffentlichst, verstößt du damit nicht gegen das Urheberrecht.
Vielleicht hat man mit dem Erwerb der „Raubkopie-CD“ gegen das Urheberrecht verstoßen, aber nicht durch das Zählen von Wörtern im Text.
Deswegen hat Anthropic für das Trainieren ihres Modells mit einer Riesenmenge raubkopierter Bücher einen Vergleich über 1,5 Milliarden Dollar angeboten: Nicht, weil das Zählen der Wörter in den Büchern die Rechte von irgendjemandem verletzt hätte, sondern weil sie befürchteten, dass sie mit Schadenersatzklagen von 150.000 Dollar pro Buch überzogen worden wären für das Herunterladen der Dateien.
Schön, nachdem du also alle Pixel oder Wörter gezählt hast, ist es Zeit für den letzten Schritt: sie zu veröffentlichen. Denn nichts anderes ist ein Modell. Ein literarisches Werk (in diesem Fall ein Stück Software), das einen Haufen Fakten über einen Haufen anderer Werke enthält; Wort- und Pixel-Verteilungen, kodiert in einer vieldimensionalen Matrix.
Und nochmal, das Urheberrecht verbietet es nicht, Fakten über urheberrechtlich geschützte Werke zu veröffentlichen. Und nochmal, niemand sollte in einer Welt leben wollen, in der jemand anderes entscheidet, welche wahren, faktischen Aussagen du veröffentlichen darfst.
Aber hey, du denkst vielleicht, das sind alles nur Spitzfindigkeiten. Vielleicht denkst du, ich rede nur Blödsinn. Das ist in Ordnung. Es wäre nicht das erste Mal, dass jemand das glaubt.
Selbst wenn ich Recht habe mit meiner Ansicht, wie das Urheberrecht jetzt funktioniert, gibt es schließlich keinen Grund, warum wir das Urheberrecht nicht ändern könnten, um Trainingsaktivitäten zu verbieten. Vielleicht gibt es ja eine schlaue Möglichkeit, den Gesetzestext so wortgewandt zu formulieren, dass er nur die schlechten Sachen erwischt, die uns nicht gefallen, und nicht all das Gute, das beim Sammeln, Analysieren und Veröffentlichen herauskommt.
Aber selbst dann hilft ein solches neues Urheberrecht den Kreativschaffenden nicht. Wenn du glaubst, das doch zu können, solltest du mal gründlich hierüber nachdenken: Das Urheberrecht wurde seit 1976 stetig ausgeweitet, sodass es heute mehr Werkarten umfasst, Exklusivrechte auf noch mehr Verwendungszwecke einräumt und länger andauert.
Und heute ist die Medienindustrie größer und profitabler als jemals zuvor. Außerdem erhielten die Kreativschaffenden noch nie zuvor einen so geringen Anteil am Umsatz der Medienindustrie, sowohl in reellen Zahlen als auch vom Prozentsatz der irrwitzigen Gewinne her, die ihre Bosse bei den Medienfirmen einfahren.
Wie kann es sein, dass wir den Urheber.innen all diese Rechte gegeben haben, und diese Rechte unzählige Milliarden erbracht haben, die Urheber.innen aber ärmer sind als vorher? Das liegt an Folgendem: Wer in einem Kreativmarkt, der dominiert wird von fünf Verlagen, vier Studios, drei Labels, zwei mobilen App-Stores, und einer einzigen Firma, die alle elektronischen Bücher und Hörbücher kontrolliert, einem Kreativschaffenden Zusatzrechte als Verhandlungsmasse gibt, könnte genauso gut auch einem schikanierten Kind mehr Essensgeld mitgeben.
Es ist egal, wie viel Essensgeld du deinem Kind mitgibst, die Schulhoftyrannen werden ihm alles wieder wegnehmen. Wenn du ihm genug Geld mitgibst, werden sie eine Agentur damit beauftragen, eine globale Werbekampagne zu starten, mit dem Motto: „Denkt an die hungrigen Kinder! Gebt ihnen mehr Essensgeld!“ Kreativschaffende, die die Gerichtsverfahren der großen Studios und Labels bejubeln, sollten sich die erste Regel des Klassenkampfes in Erinnerung rufen: Was für deinen Chef gut ist, ist selten auch gut für dich.
An dem Tag, an dem Disney und Universal ihre Klage gegen Midjourney einreichten, erhielt ich eine Pressemitteilung des amerikanischen Verbands der Musikindustrie, RIAA (Recording Industry Association of America), die die Musiksparten von Disney und Universal vertreten. Universal ist das weltweit größte Label. Zusammen mit Sony und Warner kontrollieren sie heute die Vermarktungsrechte von 70 % aller aufgenommenen Musik.
Die Mitteilung beginnt mit: „Partnerschaften, die sowohl KI-Innovation voranbringen als auch menschliches Kunstschaffen fördern, sind der Weg nach vorne.“ Sie endet mit: „Dieser Schritt von Disney und Universal setzt ein wichtiges Zeichen für menschliche Kreativität und verantwortungsbewusste Innovation.“
Unterschrieben wurde sie von Mitch Glazier, Geschäftsführer der RIAA. Wahrscheinlich sagt euch dieser Name nichts, und darum will ich euch erklären, wer dieser Mitch Glazier ist. Heute ist Mitch Glazier Geschäftsführer der RIAA, mit einem Jahresgehalt von 1,3 Millionen Dollar. Aber bis 1999 war Mitch Glazier ein Mitarbeiter im US-Kongress, und 1999
schmuggelte er einen Zusatz in einen Gesetzentwurf zu einem völlig anderen Thema – einem Gesetz zur Verbesserung des privaten Satellitenfernsehens („Satellite Home Viewer Improvement Act“) – der Musikern die Möglichkeit nahm, ihre eigenen Aufnahmen vom Label zurückzuholen. Das ist eine Praxis, die besonders wichtig für sogenannte „Heritage Acts“ war (ein Euphemismus der Musikindustrie für „alte Musik, die von Schwarzen aufgenommen wurde“), für die dieses Recht entscheidend war, ob sie ihre Miete zahlen konnten oder auf der Straße landeten.
Als klar wurde, dass Glazier diese musiker-verarmende Abzocke durchgezogen hatte, gab es einen derartigen öffentlichen Aufschrei, dass der Kongress zu einer Sondersitzung zurückkam, nur um über die Streichung von Glaziers Zusatz abzustimmen. Glazier wurde daraufhin von seiner kuscheligen Stelle im Kongress entfernt. Daraufhin begann die RIAA, ihm über eine Million Dollar pro Jahr zu zahlen, um „die Musikindustrie zu repräsentieren“.
Das ist der Typ, der die Pressererklärung in meinem Postfach unterschrieben hatte. Was er damit sagen wollte: das Problem ist nicht, dass Midjourney seine generative KI mit urheberrechtlich geschütztem Material trainieren will, um dann damit Künstlerinnen an den Rand der Armut zu treiben. Das Problem ist, dass Midjourney die RIAA-Mitglieder Universal und Disney nicht für die Erlaubnis bezahlt hat, ein Modell zu trainieren. Denn hätte Midjourney doch bloß mehrere Millionen an Disney und Universal gezahlt für die Trainingsrechte an ihren Sammlungen, hätten beide Firmen gern erlaubt, dass sie nach Herzenslust weiter trainieren, und sie hätten die daraus resultierenden Modelle gekauft und so viele Kreativ-Profis wie möglich entlassen.
Ich meine, haben diese Leute die Hollywood-Streiks schon vergessen? Ich jedenfalls nicht. Ich wohne in Burbank, der Heimat von Disney, Universal und Warner, und ich war mit meinen Genoss.innen von der Schriftsteller-Vereinigung an vorderster Front, um unsere Solidarität im Namen meiner Gewerkschaft IATSE 830 zu bekunden, der Gewerkschaft der Animationskünstler, wo ich Mitglied der Schriftsteller-Gruppe bin. (Anm. d. Übers.: IATSE 830 ist die Gewerkschaft für Theaterkostüme, Make-up und Frisuren, die Gewerkschaft der Animationskünstler – die Cory offenbar gemeint hat – ist IATSE 839.)
Und ich werde nie vergessen, wie einer der Schriftsteller sich zu mir umdrehte und sagte: „Weißt du, man gibt einem LLM Anweisungen auf genau dieselbe Art, in der ein Manager den Autoren grottige Anweisungen gibt. So etwas wie: ‚Macht so was wie E.T., aber mit einem Hund, und mit einer Liebesgeschichte, und im Zweiten Akt eine Verfolgungsjagd.‘ Der Unterschied ist, dass die Autoren dich auslachen, wenn du das ihnen sagst, und sie dich einen verdammten Idioten im Anzug nennen. Aber sag es zu einem LLM, und es wird fröhlich ein grauenvolles Manuskript rausrotzen, das den Anforderungen exakt entspricht (du weißt schon, ‚Air Bud – Champion auf vier Pfoten‘).“
Diese Firmen versuchen verzweifelt, Beschäftigte durch KI zu ersetzen. Wenn die Bildagentur Getty Images KI-Firmen verklagt, geht es ihnen gar nicht um die Interessen der Fotografen. Getty hasst es, Fotografinnen zu bezahlen! Getty will nur für das Training bezahlt werden, und sie wollen Leitplanken für das daraus entstandene KI-Modell, die unmöglich machen, dass jemand anderes außer Getty selbst damit Bilder erzeugen kann, die mit Getty konkurrieren. Aber wir können absolut sicher sein, dass Getty selbst seine Modelle dazu nutzen wird, so viele Fotografen wie möglich in den Ruin zu treiben.
Ein neues Urheberrecht zum Training von Modellen wird uns nicht in eine Welt führen, in der Modelle nicht trotzdem genutzt werden, um Kunstschaffende zu zerstören. Es wird nur dazu führen, dass die Standardverträge der wenigen Firmen, die den gesamten schöpferischen Arbeitsmarkt kontrollieren, um eine Klausel erweitert werden, die von uns verlangt, diese neuen Trainings-Rechte an ebenjene Firmen abzutreten. Wer ein neues Urheberrecht fordert, macht sich nur zum nützlichen Idioten seines Chefs, zu einem menschlichen Schutzschild, den er sich in Streitigkeiten um Vertragsrichtlinien vor sich hertragen kann, ein fadenscheiniger Vorwand nach dem Motto: „Denkt denn niemand an die hungernden Künstler?“
Was sie aber in Wirklichkeit fordern, ist eine Welt, in der 30 % des Investment-Kapitals der KI-Firmen in die Taschen der Aktionäre wandern. Wenn ein Künstler von raffgierigen Monopolisten verschlungen wird, ist es dann wirklich noch so wichtig, wie genau sie den Kuchen unter sich aufteilen?
Wir müssen Künstler.innen vor den KI-Raubtieren beschützen statt ihnen nur eine neue Ausdrucksmöglichkeit für ihre Wut über die eigene Verelendung zu geben.
Und das Copyright-Office vertritt diese Auffassung nicht einfach nur, es verteidigt sie auch vehement vor Gericht, und hat wiederholt Urteile erstritten, die dieses Prinzip aufrechterhalten.
Die Tatsache, dass sämtliche KI-generierten Werke gemeinfrei sind, bedeutet: Wenn Getty, Disney, Universal oder Hearst-Zeitungen KI nutzen, um Werke zu erzeugen, dann kann sich jeder diese Werke nehmen, sie vervielfältigen, verkaufen oder kostenlos weitergeben. Und das Einzige, was diese Firmen mehr hassen als Kreativschaffende zu bezahlen, ist, wenn sich andere Leute ohne Erlaubnis einfach ihre Sachen nehmen.
Die Haltung des US-Copyright-Office bewirkt, dass diese Firmen nur dann Verwertungsrechte bekommen können, wenn sie Menschen für ihre schöpferische Leistung bezahlen. Das ist ein Rezept für Zentaurentum. Wenn du ein bildender Künstler oder eine Schriftstellerin bist, die sich mit Hilfe von KI-Prompts zu neuen Ideen oder Variationen inspirieren lässt, ist das kein Problem, denn die letztendliche Arbeit kommt von dir. Oder wenn du beim Videoschnitt Deep-Fake-Technik nutzt, um die Augen von 200 Statist.innen in einer Massenszene anzupassen, dann sind zugegebenermaßen die Augen gemeinfrei, aber der Film bleibt urheberrechtlich geschützt.
Doch Kreativschaffende müssen sich nicht auf die US-Regierung verlassen, um uns aus den Fängen der KI-Raubtiere zu retten. Wir können das selbst schaffen, so wie die Autoren in ihrem historischen Streik. Sie haben die Studios in die Knie gezwungen, weil sie sich organisiert haben und solidarisch waren, aber auch, weil ihnen erlaubt ist, was sonst praktisch keine anderen US-Angestellten dürfen: Sie können Tarifverträge aushandeln, die dann für alle Beschäftigten und Arbeitgeber.innen der gesamte Branche verbindlich sind.
Das ist in den USA für fast alle Beschäftigten seit den späten 1940er Jahren illegal, als es durch das Taft-Hartley-Gesetz verboten wurde. Wenn wir eine Kampagne für ein neues Gesetz starten wollen, in der Hoffnung, dass wir dann mehr verdienen können und mehr Kontrolle über unsere eigene Arbeit haben, dann sollten wir dafür kämpfen, die Tarifautonomie der Gewerkschaften wiederherzustellen, und nicht dafür, das Urheberrecht auszuweiten.
In einer Kampagne für die Ausweitung der Urheberrechte stehen wir an der Seite unserer Vorgesetzten, denen unsere Bedürfnisse noch nie am Herzen lagen. Im Kampf um die Wiederherstellung der Tarifautonomie stehen wir hingegen Seite an Seite mit allen Beschäftigten im ganzen Land. So wie es in dem Lied heißt: „Which side are you on?“ (dt. „Auf wessen Seite stehst du?“)
Blasen verschieben die Ersparnisse von normalen Leuten, die einfach nur in Würde ihren Ruhestand verbringen wollen, hin zu den reichsten und unmoralischsten Leuten in unserer Gesellschaft, und jede Blase platzt irgendwann, und reißt alle Ersparnisse mit sich.
Doch nicht alle Blasen sind gleich geschaffen. Manche hinterlassen etwas Produktives. Worldcom hat einfachen Leuten durch Betrug mit Glasfaser-Aufträgen Milliarden gestohlen. Der Geschäftsführer kam ins Gefängnis und starb dort. Aber die Glasfaserkabel haben ihn überdauert.
Sie liegen immer noch in der Erde. Bei mir zu Hause habe ich einen symmetrischen 2-Gigabit-Glasfaseranschluss, weil AT&T einige von Worldcoms alten „dunklen Glasfasern“ wieder erhellt hat. Insgesamt wäre es besser gewesen, wenn es Worldcom nie gegeben hätte. Aber das einzige, was noch schlimmer wäre als die ganzen widerlichen Betrügereien von Worldcom, wäre, wenn man gar nichts aus dem Scherbenhaufen hätte retten können.
Ich glaube zum Beispiel nicht, dass von Kryptowährungen viel übrig bleiben wird. Klar, ein paar Coder werden ein paar Dinge über sichere Programmierung in Rust gelernt haben. Doch wenn Kryptowährungen sterben, wird nichts übrigbleiben als eine schlechte marktradikale Wirtschaftslehre (Österreichische Schule) und noch schlechtere Affen-JPEGs.
KI ist eine Blase und sie wird platzen. Die meisten Firmen werden untergehen. Die meisten Rechenzentren werden dichtmachen oder in Einzelteilen abverkauft werden. Was wird also bleiben?
Wir werden einen Haufen Programmierer.innen haben, die richtig gut sind in angewandter Statistik. Wir werden eine Masse an billigen Grafikprozessoren haben, was sicher gut ist für, sagen wir, Spezialeffekt-Künstlerinnen und Klimaforscher, die sich die unverzichtbare Hardware dann für einen Spottpreis kaufen können. Und wir werden Open-Source-Modelle haben, die auf Standard-Hardware laufen, KI-Werkzeuge, die eine Menge nützliche Sachen machen können, wie z. B. Audio-und Video-Transkriptionen, Bildbeschreibungen, Zusammenfassungen von Dokumenten, Automatisierung von arbeitsintensiven Grafikbearbeitungen wie dem Entfernen von Hintergründen, oder von unbeteiligten Fußgängern aus Fotos. Diese werden auf unseren Laptops und Smartphones laufen, und Open-Source-Hackerinnen werden Dinge aus ihnen herauskitzeln, die sich ihre Schöpfer nie hätten träumen lassen.
Wenn es nie eine KI-Blase gegeben hätte, wenn all diese Sachen einfach bloß entstanden wären, weil ein paar Informatiker und Produktmanager.innen ein paar Jahre herumgespielt hätten und auf tolle neue Ideen für Apps gekommen wären für Backpropagation und Maschinelles Lernen oder generative Gegenspieler-Netzwerke, wären die meisten Leute angenehm überrascht von diesen interessanten neuen Sachen, die ihre Computer plötzlich können. Wir würden einfach „Plugin“ dazu sagen.
Es ist die Blase, die zum Kotzen ist, nicht die Anwendungen. Die Blase will keine bezahlbaren, nützlichen Dinge. Sie will teure, „disruptive“ Dinge. Große „Foundation“-Modelle, die jedes Jahr Milliarden Dollar verlieren.
Wenn die KI-Investitionsmanie ein Ende findet, werden die meisten dieser Modelle verschwinden, weil es sich dann einfach nicht mehr rechnet, die Rechenzentren weiterlaufen zu lassen. Wie das Stein’sche Gesetz sagt: „Alles, was nicht ewig weitergehen kann, hört irgendwann auf.“
Der Kollaps der KI-Blase wird hässlich werden. Sieben KI-Firmen machen im Moment mehr als ein Drittel des gesamten Aktienmarktes aus, und sie reichen gerade denselben 100-Milliarden-Dollar-Schuldschein endlos im Kreis herum.
Firmenbosse entlassen massenhaft produktive Arbeitskräfte und ersetzen sie durch schrottige KI, und wenn die schrottige KI verschwindet, wird niemand mehr in der Lage sein, den Großteil dieser Beschäftigten zu finden und wieder einzustellen. Nach den dysfunktionalen KI-Systemen kommt das große Nichts.
Es wird uns mehr als eine Generation lang beschäftigen, das alles wieder herauszubekommen.
Also müssen wir diese Blase loswerden. Sie so schnell wie möglich zum Platzen bringen. Dazu müssen wir uns auf die wichtigsten Faktoren konzentrieren, die die Blase antreiben. Die Blase wird nicht angetrieben von Deepfake-Pornos oder Desinformationen über Wahlen, oder KI-Bildgeneration oder KI-Müll-Werbung.
All das ist schrecklich und schädlich, doch es treibt nicht die Investitionen an. Der Gesamtwert all dieser Anwendungen ist gegenüber dem Kapitalaufwand und den Betriebskosten von KI kaum mehr als ein Rundungsfehler. Das sind Randerscheinungen und Resteverwertung: glitzernd, aber unwichtig für die Blase.
Wenn wir uns von all diesen Nutzungen trennen, reduziert das den erwarteten Umsatz der KI-Firmen um eine Summe, die in erster Näherung Null ist.
Dasselbe gilt für den ganzen „KI-Sicherheit“-Unfug, der sich angeblich damit beschäftigt, wie wir KI daran hindern, ein Bewusstsein zu entwickeln und uns alle in Büroklammern zu verwandeln.
Erstens ist das schon oberflächlich betrachtet absurd. Noch mehr Wörter und Grafikprozessoren auf ein Wort-Rate-Programm zu werfen wird kein Bewusstsein erzeugen. Das ist so, als würde man sagen: „nun, wir züchten diese Pferde, damit sie immer schneller laufen, also ist es nur noch eine Frage der Zeit, bis eine unserer Stuten eine Lokomotive zur Welt bringt.“ Ein menschlicher Geist ist keine Wort-Rate-Maschine mit vielen zusätzlichen Wörtern.
Versteht mich nicht falsch. Ich bin schon hier, um Science-Fiction-Gedankenexperimente anzustellen. Aber Science Fiction ist keine Wahrsagerei. SF-Geschichten über Hyperintelligenz sind futuristische Parabeln, keine Geschäftsmodelle, Zukunftspläne oder Vorhersagen.
Die KI-Sicherheitsleute sagen, sie sorgen sich, dass KI in den Weltuntergang führt, aber KI-Firmenbosse lieben diese schrägen Typen. Denn wenn die KI mächtig genug ist, die Welt zu zerstören, stellt euch doch mal vor, wie viel Geld man damit verdienen kann. Außerdem steht keinem KI-Business-Plan die Zeile „Einnahmen durch das Umwandeln der Menschheit in Büroklammern“. Das heißt, selbst wenn wir das verbieten, würde es die KI-Firmen keinen Cent Investment-Kapital kosten.
Um die Blase platzen zu lassen, müssen wir beharrlich die Kräfte angreifen, die sie hervorgebracht haben: den Mythos, dass KI deine Arbeit machen kann, vor allem, wenn du ein gutes Einkommen hast, das dein Chef sich krallen kann; die Einsicht, dass Wachstumsfirmen immer neue, immer abstrusere Blasen brauchen, um am Leben zu bleiben; die Tatsache, dass Beschäftigte und die Allgemeinheit, für die sie arbeiten, in diesem Kampf auf derselben Seite stehen, und die Chefs und ihre Investor.innen auf der anderen.
Weil die KI-Blase wirklich eine schlechte Nachricht ist, verdient sie es, ernsthaft bekämpft zu werden, und ein ernstgemeinter Kampf gegen KI packt sie an den Wurzeln: an den wesentlichen Faktoren, die das Material für die Verbrennung von hunderten Milliarden liefern, die dazu ausgegeben werden, uns alle an die Armutsgrenze zu treiben und all unsere Wände mit High-Tech-Asbest vollzustopfen.
© Cory Doctorow CC BY 3.0 https://creativecommons.org/licenses/by/4.0/
Übersetzung Bernd Sieker und Leena Simon:
https://digitalcourage.de/sites/default/files/2026-06/Der%20Umgekehrte%20Zentaur%20%E2%80%93%20Cory%20Doctorow.pdf
Text: Cory Doctorow
Quelle: https://pluralistic.net/2025/12/05/pop-that-bubble
Übersetzung: Bernd Sieker und Leena Simon überarbeitet von Chris
Gestern Abend habe ich eine Rede im Rahmen der Vortragsreihe “Neurowissenschaften, KI und Gesellschaft” der Universität Washington gehalten, veranstaltet vom Computational Neuroscience Center der Universität. Der Titel war „Der umgekehrte Zentaur: Ein Leitfaden zur KI-Kritik“, basierend auf dem Manuskript meines nächsten Buches „Der umgekehrte Zentaur: Ein Leitfaden zum Leben nach der KI-Ära“, das im kommenden Juni von Farrar, Straus und Giroux veröffentlicht wird.
https://www.eventbrite.com/e/future-tense-neuroscience-ai-and-society-with-cory-doctorow-tickets-1735371255139
Der Vortrag war zwar ausverkauft, aber hier ist der Text zu meiner Rede;
Ich bin der Universität Washington sehr dankbar für diese Gelegenheit und einen wundervollen Aufenthalt in Seattle.
Ich bin Science-Fiction-Autor. Das heißt, es ist meine Aufgabe, mir futuristische Parabeln über unsere gegenwärtige sozio-technologische Situation auszudenken. Nicht nur, um zu hinterfragen, was ein Gerät tut, sondern für wen es das tut und wem es das antut.
Ich mache keine Vorhersagen über die Zukunft. Niemand kann die Zukunft vorhersagen, und das ist auch gut so. Wenn die Zukunft vorhersagbar wäre, hieße das, dass nichts, was wir tun, sie ändern könnte. Es würde bedeuten, dass die Zukunft wie auf Schienen läuft und nicht gelenkt werden kann. Meine Güte, was für eine erbärmliche Vorstellung!
Diese Unterscheidung ist aber nicht allen bewusst. Sie glauben, Science-Fiction-Autor.innen seien Orakel oder Wahrsager. Auch viele meiner Kolleg.innen leiden leider unter der Wahnvorstellung, „die Zukunft sehen“ zu können.
Aber auf jeden SF-Autor, der sich selbst einbildet, die Zukunft zu schreiben, kommen Hunderte von SF-Fans, die glauben, die Zukunft lesen zu können, und eine deprimierende Anzahl dieser Leute sind anscheinend KI-Jünger geworden. Weil diese Leute nicht aufhören können, von dem Tag zu reden, an dem ihre aufgemotzte Vervollständigungsmaschine erwachen und uns alle in Büroklammern verwandeln wird, haben viele verwirrte Journalisten und Konferenzveranstalterinnen versucht, mich zu einer Aussage zur Zukunft von KI zu bewegen.
Das habe ich immer strikt abgelehnt. Ich habe schon zwei Jahre meines Lebens darauf verschwendet, immer wieder geduldig zu erklären, warum Kryptowährungen meiner Meinung nach eine dämliche Idee sind. Dafür wurde ich unablässig von Krypto-Kult-Leuten niedergemacht, die erst behaupteten, ich hätte keine Ahnung von Krypto und dann, sobald ich klargemacht hatte, dass ich Krypto sehr wohl verstehe, darauf bestanden, dass ich geschmiert sein müsse. Das ist buchstäblich dasselbe, was in Diskussionen mit Scientologen passiert, und dafür ist das Leben Einfach. Zu. Kurz.
In noch so einen Sumpf wollte ich nicht hineingezogen werden. Denn einerseits glaube ich nicht, dass KI eine ganz so wichtige Technologie ist, und andererseits habe ich sehr differenzierte und komplizierte Ansichten darüber, was mit KI schiefläuft und was nicht, und es dauert lange, das zu erklären. Aber Leute haben immer wieder nachgefragt, und deshalb habe ich getan, was ich immer tue. Ich habe ein Buch geschrieben.
Ich habe den Sommer dafür genutzt, ein Buch darüber zu schreiben, was ich über KI denke, aber eigentlich eher darüber, was ich über KI-Kritik denke, oder noch genauer, was eine gute KI-Kritikerin ausmacht. Im Klartext: „Wie man ein Kritiker sein kann, dessen Kritik den größtmöglichen Schaden verursacht an den Teilen von KI, die am meisten Unheil anrichten.“ Das Buch habe ich "Der umgekehrte Zentaur: Ein Leitfaden zum Leben nach der KI-Ära" genannt, und das Verlagshaus Farrar, Straus und Giroux wird es im Juni 2026 veröffentlichen.
Aber so lange werdet ihr nicht warten müssen, denn ich werde heute Abend die These des gesamten Buches für euch darlegen, in den kommenden 40 Minuten. Ich werde schnell reden.
Natürlich gibt es Alternativen
Beginnen wir damit, was ein umgekehrter Zentaur ist. In der Automatisierungstheorie ist ein „Zentaur“ eine Person, die von einer Maschine unterstützt wird. Ein menschlicher Kopf, der von einem unermüdlichen Roboterkörper herumgetragen wird. Ein Auto zu fahren macht dich zu einem Zentauren, ebenso wie die Nutzung einer automatischen Wortvervollständigung.Ein umgekehrter Zentaur ist folglich ein Maschinenkopf auf einem menschlichen Körper, eine Person, die einer gefühllosen Maschine als wabbeliger Fleischfortsatz dient.
Ganz so wie ein Amazon-Fahrer, der in seiner Kabine sitzt, umgeben von KI-Kameras, die die Augen des Fahrers beobachten und Punkte abziehen, wenn er in eine bestimmte Richtung blickt, die den Mund des Fahrers überwachen, weil Singen während der Arbeit nicht erlaubt ist und die den Fahrer beim Chef verpfeifen, wenn die Quote nicht erfüllt wird.
Der Fahrer sitzt im Wagen, weil der Wagen sich nicht selbst fahren und nicht selbst das Paket vom Bordstein zu deiner Tür bringen kann. Der Fahrer ist nur ein Peripheriegerät für das Fahrzeug, und das Fahrzeug fährt den Fahrer mit übermenschlicher Geschwindigkeit und verlangt übermenschliche Ausdauer. Doch der Fahrer ist ein Mensch, und der Wagen braucht den Fahrer nicht nur, er nutzt den Fahrer aus und verschleißt ihn (engl. " use up"). Natürlich ist es schön, ein Zentaur zu sein, und es ist schrecklich, ein umgekehrter Zentaur zu sein.
Es gibt viele KI-Tools, die potentiell sehr zentaurenartig sein können, aber ich behaupte, dass diese Tools vorsätzlich zu dem Zweck entwickelt und finanziert wurden, umgekehrte Zentauren zu erzeugen, was nun wirklich niemand sein will.
Aber wie ich schon sagte, die Aufgabe eines SF-Autors ist es, mehr zu tun, als nur darüber nachzudenken, was ein Ding tut, sondern tiefergehend nachzuforschen, für wen das Ding dies tut, und wem es das antut. Die Tech-Bosse wollen uns weismachen, dass eine Technologie nur auf eine einzige Weise genutzt werden kann. Marc Zuckerberg will, dass du es für technisch unmöglich hältst, eine Unterhaltung zu führen, ohne dass er dabei zuhört. Tim Cook will, dass du es für technisch unmöglich hältst, dich auf deinen Computer zu verlassen, es sei denn, er bekommt ein Vetorecht darüber, welche Software du installierst, und vorausgesetzt, dass er sich 30 Cent von jedem Euro nehmen darf, den du ausgibst. Sundar Pichai will, dass du es für unmöglich hältst, eine Webseite zu finden, ohne dass er dich dabei nach Strich und Faden ausspioniert.
Das ist nichts anderes als ein vulgärer Thatcherismus. Der Wahlspruch von Margaret Thatcher war: „Es gibt keine Alternative“. Sie wiederholte es so oft, dass sie „TINA“ Thatcher genannt wurde, nach den Anfangsbuchstaben der englischen Version „There. Is. No. Alternative.“
„Es gibt keine Alternative“ ist ein billiger rhetorischer Trick. Es ist eine Forderung, die sich als Feststellung verkleidet. „Es gibt keine Alternative“ soll heißen: „HÖRT AUF, ÜBER ALTERNATIVEN NACHZUDENKEN.“ Ganz ehrlich, scheiß drauf!
Ich bin SF-Autor und es ist meine Aufgabe, mir schon vor dem Frühstück ein Dutzend Alternativen auszudenken.
Ich sag euch, was in meinen Augen mit dieser KI-Blase los ist. Lasst uns mal den Bockmist von der Wirklichkeit trennen und klären, wie wir zu besseren KI-Kritiker.innen werden können und auch sollten.
Das Märchen vom ewigen Wachstum
Fangen wir an bei den Monopolen: Tech-Firmen sind gigantisch und haben keine wirkliche Konkurrenz. Sie übernehmen einfach ganze Marktbereiche, entweder allein oder in Kartellen. Google und Meta kontrollieren den Anzeigenmarkt, Google und Apple kontrollieren den Mobilgerätemarkt und Google zahlt jährlich mehr als 20 Milliarden Dollar an Apple, damit sie keine konkurrierende Suchmaschine bauen, und selbstredend hat Google 90 % Marktanteil bei Suchmaschinen.Jetzt könnte man meinen, es wären gute Nachrichten für die Tech-Firmen, dass ihnen ganze Marktbereiche gehören. Aber in Wirklichkeit ist es eine Krise. Wenn eine Firma wächst, wird sie als Wachstumsaktie gehandelt, und Investoren mögen Wachstumsaktien wirklich gern. Wenn man Anteile an solchen Wachstumsaktien erwirbt, wettet man darauf, dass sie weiter wachsen. Entsprechend werden Wachstumsaktien zu einem Vielfachen ihres Gewinns gehandelt. Das nennt man das „Kurs-Gewinn-Verhältnis“ oder KGV.
Aber sobald eine Firma aufhört zu wachsen, werden ihre Anteile zu „reifen“ Aktien und werden zu einem weitaus niedrigeren KGV gehandelt. Das heißt z.B. Target (eine etablierte Firma) ist für jeden Dollar, den sie erwirtschaftet, zehn Dollar wert. Sie hat ein KGV von 10, während Amazon ein KGV von 36 hat, d. h. für jeden Dollar, den Amazon erwirtschaftet, beträgt der Marktwert 36 Dollar. Es ist herrlich, eine Firma zu haben, die Wachstumsaktien hat. Die Anteile sind praktisch wie Geld. Wenn du eine andere Firma kaufen willst oder eine Schlüsselposition zu besetzen hast, kannst du Aktien anbieten statt Bargeld. Und Aktien sind für Firmen sehr einfach zu beschaffen, weil sie direkt auf dem Firmengelände hergestellt werden: Man braucht nur ein paar Nullen in eine Tabelle einzutippen. Dollars dagegen lassen sich viel schwieriger auftreiben: Eine Firma kann sie nur von Kunden oder Kreditgeberinnen beschaffen.
Wenn also Amazon gegen Target bietet, bei einer wichtigen Anschaffung oder Besetzung einer wichtigen Stelle, dann kann Amazon Aktien anbieten, die sie einfach selbst herstellen, indem sie ein paar Nullen in eine Tabelle eintragen. Target kann nur Geld anbieten, das sie bekommen, indem sie uns Dinge verkaufen oder Kredite aufnehmen, weswegen Amazon solche Angebotskriege typischerweise gewinnt.
Das ist der Vorteil von Wachstumsaktien. Aber es gibt auch einen Nachteil: Irgendwann ist Schluss mit Wachstum. Wenn du beispielsweise 90 % Marktanteil in deinem Bereich hast, wie willst du dann noch weiter wachsen?
Sobald der Markt entscheidet, dass du keine Wachstumsaktie mehr bist, sobald du am Markt etabliert bist, wirst du neu bewertet mit einem KGV, das sich für eine reife Aktie geziemt.
Wenn du in der Geschäftsführung einer dominierenden Firma mit Wachstumsaktien bist, musst du ständig mit der Angst leben, dass der Markt irgendwann entscheidet, dass du wahrscheinlich nicht mehr weiter wachsen wirst. Man muss sich nur ansehen, was mit Facebook im ersten Quartal 2022 passiert ist. Sie hatten bekannt gegeben, dass ihr Wachstum in den USA minimal hinter den Erwartungen zurückgeblieben war und die Anleger.innen verfielen in Panik. Sie veranstalteten einen eintägigen 240-Milliarden-Dollar-Ausverkauf. Eine Viertelbillion Dollar in 24 Stunden! Der bis dato größte und sprunghafteste Wertverlust einer Firma in der Geschichte der Menschheit.
Das ist der schlimmste Albtraum eines Monopolisten, denn sobald du eine „etablierte“ Firma leitest, wird dein Schlüsselpersonal, das du bisher mit Aktien entlohnt hast, plötzlich einen massiven Gehaltsabsturz erfahren und die Flucht ergreifen. Das heißt, du verlierst genau die Leute, die du bräuchtest, um wieder zu wachsen. Ersatz kannst du aber nur noch mit Dollars anheuern. Mit Dollars, nicht Aktien.
Dasselbe gilt für die Übernahme von Firmen, die dir beim Wachsen helfen könnten, denn auch diese erwarten jetzt Geld statt Aktien. Das ist das Paradoxon der Wachstumsaktien. Solange man in Richtung Marktherrschaft hin wächst, liebt dich der Markt. Doch sobald man die Marktherrschaft erreicht hat, wird der Markt auf einen Schlag 75 % deines Wertes oder mehr abzwacken, wenn er deiner Preissetzungsmacht nicht mehr vertraut.
Deshalb pumpen Firmen mit Wachstumsaktien verzweifelt eine Blase nach der anderen auf und geben Milliarden aus, um einen Hype zu erzeugen, für die Neuausrichtung auf Video, oder Kryptowährung, oder NFTs, oder Metaverse, oder KI.
Ich sage gar nicht, dass die Bosse der Tech-Firmen Wetten eingehen, die sie nicht gewinnen wollen.
Aber ich behaupte, dass das Gewinnen der Wette – ein überlebensfähiges Metaversum zu schaffen – nur Nebenziel ist. Das Hauptziel ist es, im Markt die Überzeugung aufrechtzuerhalten, dass deine Firma weiter wachsen wird, und diesen Glauben so lange am Leben zu halten, bis die nächste Spekulationsblase daherkommt. Genau dafür veranstalten sie diesen ganzen KI-Hype: als materielle Grundlage für hunderte Milliarden von KI-Investitionen.
Sündenbock in der Verantwortungs-Senke
Jetzt will ich darüber reden, wie sie KI verkaufen. Die Erzählung vom KI-Wachstum ist, dass KI den Arbeitsmarkt erschüttern wird. Ich verwende „erschüttern“ hier im schäbigsten Tech-Jünger-Sinn.Die KI-Verheißung – das Versprechen, das KI-Firmen ihren Anleger.innen geben – ist, dass es KIs geben wird, die deine Arbeit erledigen können, und wenn dein Chef dich feuert und durch eine KI ersetzt, wird er die Hälfte deines Gehalts selbst einstecken, und die andere Hälfte der KI-Firma geben. Das war's.
Das ist die 13-Billionen-Dollar-Wachstums-Geschichte, die Morgan Stanley uns erzählen will. Das ist der Grund dafür, dass große Investoren und Kapitalsammelstellen den KI-Firmen hunderte Milliarden Dollar geben. Und weil sie sich darauf stürzen, werden Normalos auch mit aufgesaugt und riskieren ihre Altersrücklagen und die finanzielle Sicherheit ihrer Familien.
Also selbst wenn KI deine Arbeit machen könnte, wäre das immer noch ein Problem. Wir müssten uns überlegen, was wir mit all diesen Tech-Arbeitslosen machen sollen. Aber die KI kann deine Arbeit nicht machen; sie kann dir helfen, deine Arbeit zu machen. Das bedeutet aber nicht, dass es irgendjemandem Geld spart. Zum Beispiel in der Radiologie: Offenbar kann KI manchmal Tumore identifizieren, die manche Radiologen übersehen, und wisst ihr, ich habe Krebs. Zum Glück ist er gut behandelbar, doch ich habe Interesse daran, dass die Radiologie so zuverlässig und genau wie möglich ist.
Würde meine Kaiser-Klinik radiologische Diagnose-Tools kaufen und ihren Radiologinnen erklären: „Hört zu, Leute, wir machen das folgendermaßen: Heute könnt ihr 100 Röntgenbilder am Tag bearbeiten. Ab jetzt werden wir vom KI-Tool jeweils unmittelbar eine zweite Meinung einholen, und wenn die KI denkt, dass ihr einen Tumor übersehen habt, bitten wir euch, nochmal genauer hinzusehen, selbst wenn das bedeutet, dass ihr nur noch 98 Röntgenbilder am Tag schafft. Das ist in Ordnung, denn uns geht es nur darum, dass wir alle Tumore finden.“
Wenn sie das sagen würden, wäre ich begeistert. Aber niemand investiert hunderte Milliarden in KI-Firmen aus dem Glauben, KI würde die Radiologie teurer machen, nicht einmal, wenn das die Radiologie genauer machen würde. Der Markt hat auf KI folgende Wette abgeschlossen: Ein KI-Vertreter besucht den Geschäftsführer der Klinik mit der Werbeaussage: „Pass auf, du entlässt 90 % deiner Radiologen, das spart dir 20 Millionen im Jahr, du gibst uns davon 10 Millionen, und machst selbst einen Gewinn von 10 Millionen. Die Aufgabe der verbliebenen Radiologinnen ist es, die Diagnosen zu überwachen, die die KI mit übermenschlicher Geschwindigkeit erstellt, und dabei irgendwie aufmerksam zu bleiben, obwohl die KI meistens recht hat, außer wenn sie einen katastrophalen Fehler macht.
Und wenn die KI einen Tumor übersieht, ist es die Schuld des menschlichen Radiologen, weil er der‚ Mensch in der Kontrollschleife‘ ist. Er hat schließlich die Diagnose unterschrieben.“
Das ist ein umgekehrter Zentaur, und zwar eine ganz spezielle Art umgekehrter Zentaur: das, was Dan Davies „Verantwortungs-Senke“ genannt hat. Die Aufgabe des Radiologen ist eigentlich gar nicht, die Arbeit der KI zu überwachen, sondern die Schuld für Fehler der KI auf sich zu nehmen.
Das ist ein weiterer Schlüssel, um die KI-Blase zu verstehen und ihr so die Luft abzulassen. KI kann deine Arbeit nicht machen, aber ein KI-Handelsvertreter kann deinen Chef davon überzeugen, dich zu feuern und durch KI zu ersetzen, die deine Aufgabe nicht erfüllen kann. Das zu verstehen ist entscheidend, denn es hilft uns dabei, Allianzen zu schmieden, die im Kampf gegen die KI-Blase erfolgreich sein werden.
Angenommen, du machst dir Sorgen um eine mögliche Krebserkrankung, und dir wird erzählt, dass radiologische Untersuchungen so billig sein könnten, dass sie nicht abgerechnet werden müssten.
Und der Preis dafür wäre, dass die 32.000 Radiolog.innen in Amerika woanders unterkommen müssten, aber dafür müsste nie wieder jemandem eine radiologische Untersuchung verweigert werden. Dann würdest du vielleicht sagen: „Ja, das tut mir leid um die Radiologen, und ich bin dafür, dass sie Umschulungsmaßnahmen bekommen oder ein bedingungsloses Grundeinkommen, oder was auch immer. Doch das Ziel der Radiologie ist es, Krebs zu bekämpfen, nicht Radiologen zu bezahlen, also weiß ich, wofür ich mich entscheiden würde.“
KI-Hausierer und ihre Kunden in den Chef-Etagen wollen die Öffentlichkeit auf ihrer Seite haben.
Sie wollen eine Klassen-Allianz schmieden zwischen den KI-Entwicklern und den Leuten, die gerne die Früchte der Arbeit der umgekehrten Zentauren ernten. Sie wollen, dass wir uns für Feinde der Angestellten halten.
Jetzt werden sich einige Leute auf die Seite der Beschäftigten schlagen – aus politischen oder ästhetischen Gründen. Sie mögen Arbeiter.innen einfach lieber als deren Chefs. Aber wenn du alle Leute für dich gewinnen willst, die von deiner Arbeit profitieren, musst du verstehen und betonen, wie es kommt, dass KI-Produkte minderwertig sein werden. Dass sie mehr bezahlen werden für schlechtere Produkte. Dass sie mit dir wichtige Interessen teilen.
Die langweiligste Arbeit bleibt für uns
Werden die Produkte denn minderwertig sein? Alles spricht dafür. Weiter oben ging es schon um „Automatisierungsblindheit“, also die physische Unmöglichkeit, aufmerksam zu bleiben für Dinge, die nur selten auftreten. Deswegen sind Beamte der US-Transportsicherheitsbehörde TSA wahnsinnig gut darin, Wasserflaschen aufzuspüren. Weil sie das tagein, tagaus bis zum Abwinken üben. Und deswegen scheitern sie auch daran, Schusswaffen und Bomben aufzuspüren, die stichprobenartig durch die Sicherheitskontrollen geschmuggelt werden, weil sie darin einfach keine Übung haben. Denn praktisch niemand nimmt wissentlich eine Pistole oder eine Bombe in eine Sicherheitskontrolle mit.Automatisierungsblindheit ist die Achillesferse von „Menschen in der Kontrollschleife“.
Denkt zum Beispiel an KI-generierte Software: Es gibt viele Programmierer.innen, die den Einsatz von KI lieben, und das sind praktisch ohne Ausnahme leitende, erfahrene Programmierer.innen, die selbst entscheiden dürfen, wie sie diese Tools einsetzen. Zum Beispiel könnte man KI bitten, einen Satz CSS-Dateien zu erzeugen, um eine Webseite korrekt auf diversen Versionen verschiedener Browser darzustellen. Das ist eine notorische Fummelarbeit, und es ist relativ einfach festzustellen, ob der Code funktioniert. Man schaut sich einfach die Webseite in verschiedenen Browsern an.
Oder die Programmiererin hat eine einzelne Datei mit Daten, die sie importieren muss, und will kein ganzes Programm schreiben, um sie zu konvertieren. Solche Aufgaben können einen Programmierer wirklich effizienter machen und ihm mehr Zeit geben für die Teilaufgaben des Programmierens, die Spaß machen, nämlich das Lösen von wirklich verzwickten, abstrakten Problemen. Aber wenn man die führenden Leute im Business über ihre KI-Pläne für Programmierer.innen reden hört, wird klar, dass es ihnen nicht darum geht, Zentauren zu bauen.
Sie wollen jede Menge Angestellte im technischen Bereich entlassen – in den letzten drei Jahren betraf das schon 500.000 – und dann dafür sorgen, dass die Verbliebenen die Programmierarbeit übernehmen, was nur möglich ist, wenn man KI die ganze verzwickte, kreative Problemlösungsarbeit übernehmen lässt. Man selbst muss dann den langweiligsten, zermürbendsten Teil der Arbeit machen: den KI-generierten Code überprüfen.
Und weil KI nur ein Wort-Rate-Programm ist, weil das Berechnen des wahrscheinlichsten nächsten Wortes alles ist, was KI kann, sind ihre Fehler besonders subtil und daher schwer zu finden. Denn statistisch sind sie von funktionierendem Code buchstäblich nicht zu unterscheiden (abgesehen davon, dass es Fehler sind).
Ein Beispiel: Programmierer.innen verwenden in ihren Anwendungen Code-Bibliotheken, die ihnen einen Haufen sich wiederholender Programmierarbeit ersparen. Wenn du zum Beispiel ein Stück Text verarbeiten willst, nutzt du eine Standardbibliothek. Für HTML-Dateien ist der Name so einer Bibliothek vielleicht etwas wie lib.html.text.parsing; für eine Word-Datei wäre es lib.docx.text.parsing. Doch die Realität ist eher chaotisch, Menschen sind unaufmerksam und Dinge geraten durcheinander. Manchmal gibt es dann eine andere Bibliothek, um PDF-Dateien einzulesen, und statt lib.pdf.text.parsing heißt sie dann lib.text.pdf.parsing.
Und weil nun KI eine statistische Inferenzmaschine ist, weil sie nichts anderes kann, als anhand aller bisher getippten Wörter das nächste Wort vorherzusagen, wird sie eine Bibliothek namens lib.pdf.text.parsing herbei-„halluzinieren“. Und das Dumme ist, dass böswillige Hacker wissen, dass KI diesen Fehler macht, und gezielt eine Bibliothek mit dem vorhersehbar halluzinierten Namen lib.pdf.text.parsing erzeugen. Diese Bibliothek wird dann automatisch in dein Programm eingebunden, und Dinge tun wie Nutzerdaten klauen oder versuchen, in andere Computer in demselben Netzwerk einzudringen.
Und du, der Mensch in der Kontrollschleife – der umgekehrte Zentaur – musst diesen subtilen, schwer zu findenden Fehler erkennen, diesen Bug, der buchstäblich statistisch ununterscheidbar von korrektem Code ist. Gut, erfahrene Programmiererinnen würden das möglicherweise entdecken, weil sie wissen, wie der Hase läuft, und weil sie diesen Fallstrick kennen.
Aber ratet mal, wen die Tech-Bosse am liebsten entlassen und durch KI ersetzen wollen! Die erfahrenen Programmierer. Diese vorlauten, anmaßenden, extrem gut bezahlten Angestellten, die sich gar nicht für Angestellte halten. Die sich als Gründer in Wartestellung sehen, dem Top-Management ebenbürtig. Die Art Programmierer.innen, die einen Streik angezettelt haben, weil die Firma Drohnen-Zielsysteme für das Pentagon gebaut hat, was Google 2018 zehn Milliarden Dollar gekostet hat.
Damit KI einen Wert hat, muss sie die hochbezahlten Angestellten ersetzen, und gerade das sind die erfahrenen Mitarbeitenden mit Prozesswissen, die ihre Intuition auf die harte Tour erworben haben, und die vielleicht einige der statistisch getarnten KI-Fehler erkennen könnten.
Es geht, wie erwähnt, ja genau darum, die hochbezahlten Beschäftigten zu ersetzen. Und einer der Gründe, warum KI-Firmen so darauf erpicht sind, Programmiererinnen zu feuern, besteht darin, dass Programmierer die Fürsten der Arbeit sind. Sie werden am Arbeitsmarkt konsequent bevorzugt, sind besonders nachgefragt und werden am besten entlohnt. Und wenn man selbst Programmierer durch KI ersetzen kann, wen könnte man dann nicht ersetzen? Programmiererinnen zu entlassen ist Werbung für KI.
Von Null nicht zu unterscheiden
Und das bringt mich zu KI- Kunst. KI-Kunst – oder „Kunst“ – ist auch Werbung für KI, aber nicht Teil des KI-Geschäftsmodells.Zur Erklärung: Im Schnitt verdienen Grafiker.innen gar nichts. Sie gehören schon jetzt zu den am stärksten verarmten, prekären Arbeitnehmergruppen. Sie leiden an einer Krankheit, die sich „Berufsehrfurcht“ nennt. Der von der Bibliothekarin Fobazi Ettarh geprägte Ausdruck bezeichnet Angestellte, die anfällig dafür sind, am Arbeitsplatz ausgenutzt zu werden, weil ihnen ihre Arbeit tatsächlich am Herzen liegt – Krankenpflegerinnen, Bibliothekare, Lehrerinnen und Künstler.
Wenn KI-Bildgeneratoren alle heute arbeitenden Grafiker.innen arbeitslos machen würden, dann wäre der dadurch gesparte Lohn ein verschwindend geringer Bruchteil der Kosten, die mit Training und Betrieb solcher KI-Bildgeneratoren verbunden sind. Die Gesamtlohnkosten aller professionellen Grafiker.innen sind niedriger als die Kombucha-Rechnung der Kantine eines einzigen OpenAI-Campus.
KI-Kunst und die Erzählung von KI-Kunst als Todesurteil für Künstlerinnen haben denselben Zweck: die Allgemeinheit zu überzeugen, dass KI großartig ist und fantastische Dinge vollbringen kann. Es soll Aufsehen erregen. Das soll nicht heißen, dass es nicht widerlich ist, dass Mira Murati (die frühere technische Leitung von OpenAI) auf einer Konferenz gesagt hat, es hätte „einige Arbeitsplätze in der Kreativbranche nie geben sollen“. Oder dass es nicht besonders abstoßend ist, dass sie und ihre Kolleg.innen damit angeben, das Werk von Künstlern zu benutzen, um die Lebensgrundlage eben dieser Künstler zu zerstören.
Es sollte abstoßend sein. Es sollte Kulturschaffende dazu bringen, aufzustehen und allen zu sagen: „die KI kann meine Arbeit machen, und sie nimmt mir die Arbeit weg, ist das nicht entsetzlich?“ KI-Kunden – Firmenbosse – finden es nämlich gar nicht schlimm, dass KI den Angestellten die Jobs wegnimmt. Sie finden es ganz wunderbar.
Doch kann KI die Arbeit eines Grafikers übernehmen? Oder die irgendeiner Künstlerin?
Denken wir mal kurz drüber nach. Ich bin schaffender Künstler, seit ich mit 17 meine erste Kurzgeschichte verkauft habe. Ich habe lange darüber nachgedacht und ich denke, Kunst ist Folgendes: Alles beginnt mit einem Künstler, der in seinem Geist ein riesiges, komplexes, numinoses, nicht reduzierbares Gefühl verspürt. Und der Künstler gießt dieses Gefühl in ein künstlerisches Medium. Er erschafft ein Lied, ein Gedicht, ein Gemälde, eine Zeichnung, einen Tanz, ein Buch oder eine Fotografie. Damit in dem Moment, in dem du dieses Werk erlebst, ein Abbild des großen, numinoses, nicht reduzierbaren Gefühls in deinem Geist entsteht.
Jetzt, nachdem ich Kunst definiert habe, machen wir einen kleinen Abstecher.
Ein Freund von mir ist Professor für Rechtswissenschaften, und vor dem Aufstieg der Chatbots wussten Jurastudis genau, dass es sich nicht lohnt, ihre Profs um ein Empfehlungsschreiben zu bitten, es sei denn, sie wären richtig gut. Denn solche Briefe waren verdammt lästig zu schreiben.
Wenn eine Bewerberin um eine Postdoc-Stelle ein Empfehlungsschreiben einer angesehenen Professorin hatte, dann bedeutete die bloße Existenz dieses Dokuments, dass die Professorin eine sehr hohe Meinung von dieser Studentin hatte.
Doch dann kamen die Chatbots, und jeder weiß, dass man ein solches Empfehlungsschreiben erzeugt, indem man ein LLM mit drei Stichpunkten füttert, und schon spuckt es fünf Absätze blumigen Unsinn über den Studenten aus.
Wenn mein Freund heute eine Postdoc-Stelle ausschreibt, wird er von Empfehlungsschreiben überflutet. Und er weiß sich nicht anders zu helfen, als diese Schreiben dann an einen anderen Chatbot zu verfüttern, damit der sie wieder auf drei Stichpunkte reduziert. Offensichtlich sind das dann nicht mehr dieselben Stichpunkte, was die ganze Sache so schrecklich macht.
Genauso offensichtlich ist, dass nichts in den fünf Absätzen dieses Briefs, außer den ursprünglichen drei Stichpunkten, für den Studenten relevant ist. Der Chatbot kennt den Studenten nicht. Er weiß nichts über ihn. Er kann dem Brief nicht eine einzige wahre oder nützliche Aussage über den Studenten hinzufügen.
Und was hat das alles mit KI-Kunst zu tun? Kunst ist der Transfer von großen, numinosen, nicht reduzierbaren Gefühlen von einem Künstler auf jemand anderen. Doch das bildgenerierende Programm weiß überhaupt nichts von deinem großen, numinoses, nicht reduzierbaren Gefühl. Das Einzige, was es weiß, ist, was auch immer du in deinen Prompt geschrieben hast. Diese wenigen Sätze werden verdünnt und auf über eine Million Pixel oder Hunderttausend Wörter gestreckt, sodass die mittlere Kommunikationsdichte des daraus entstandenen Werks von Null nicht zu unterscheiden ist.
Es ist durchaus möglich, mehr kommunikative Absicht in ein Werk zu gießen: detailliertere Prompts schreiben, mühevoll aus vielen Varianten eine auswählen, oder nachträglich direkt am KI-Bild herumtüfteln, mit einem Pinsel, mit Photoshop oder Gimp. Und wenn es jemals ein KI-Kunstwerk geben wird, das gute Kunst ist – statt einfach nur beeindruckend oder interessant oder handwerklich gut gezeichnet – dann wird es diesen zusätzlichen kreativen Intentionen zu verdanken sein, die durch einen Menschen in das Werk eingebracht wurden.
Bis dahin ist es schlechte Kunst. Schlechte Kunst im Sinne von „gespenstisch“ (engl. „eerie“). Das Wort hat Mark Fisher benutzt, um zu beschreiben, „wenn etwas da ist, wo nichts sein sollte, oder wo nichts da ist, obwohl etwas da sein sollte.“
KI-Kunst ist gespenstisch, weil es scheint, als stünde hinter jedem Wort und jedem Pixel eine Absicht und jemand, der diese Absicht verfolgt, weil wir aus lebenslanger Erfahrung wissen, dass Gemälde Maler haben und dass Geschriebenes Autorinnen hat. Doch es fehlt etwas. Es hat nichts zu sagen, oder was immer es zu sagen hat, ist so stark verdünnt, dass es nicht mehr auszumachen ist.
Die Bilder waren beeindruckend, solange wir den Trick noch nicht kannten, doch jetzt sind sie einfach nur wie Bilder, die wir in Wolken oder Laubhaufen sehen. Wir sind es, die einen Teil der Szene einrahmen, wir sind es, die sich auf bestimmte Konturen konzentrieren und andere ignorieren. Wir schauen auf einen Tintenklecks, und er hat uns nichts zu sagen.
Das kann gelegentlich optisch fesselnd sein, und solange sich nur eine Gruppe aus Promptern und Betrachterinnen damit amüsiert, ist es auch harmlos.
Ein Bekannter von mir spielt jede Woche über Zoom Dungeons & Dragons-Rollenspiele. Die Sitzung wird von einem Open-Source-Modell transkribiert, das lokal auf dem Computer des Spielleiters läuft, und das die nächtliche Spielsitzung zusammenfasst und dann einen Prompt für einen Bildgenerator erzeugt, der von wichtigen Augenblicken Illustrationen generiert. Diese Zusammenfassungen und diese Bilder sind urkomisch, weil sie voller Fehler stecken. Es ist ein harmloses Vergnügen, und bringt einer kleinen Gruppe von Menschen ein bisschen zusätzlichen Spaß. Niemand wird einen Grafiker feuern, weil sich D&D-Spieler lustige Illustrationen generieren lassen, in denen Paladine mit sieben Fingern gegen Orks kämpfen, die eine Hand zu viel haben.
Doch Chefs feuern Grafiker.innen, und werden das auch weiterhin tun, weil sie sich ausmalen, wie sie sich der Kreativ-Profis entledigen, und stattdessen einfach einen KI-Prompt schreiben. Denn obwohl KI die Arbeit des Grafikers nicht machen kann, kann ein KI-Vertreter den Chef des Grafikers überzeugen, diesen zu entlassen und durch eine KI zu ersetzen, die seine Arbeit nicht machen kann.
Dieser kritische Augenblick ist widerlich und schrecklich, und wir sollten nicht einfach mit den Achseln zucken und den Thatcher-Fatalismus hinnehmen: „Es gibt keine Alternative.“
Zeug zählen ist nicht verboten
Aber was ist denn die Alternative? Viele Künstler.innen und ihre Verbündeten glauben, dass sie die Antwort schon kennen: Sie sagen, dass wir das Urheberrecht erweitern sollten, um das Training von KI-Modellen mitzuerfassen.Doch ich muss euch sagen, das ist falsch: falsch, weil dies ungeheure Kollateralschäden anrichten würde. Es würde eine massive Ausweitung urheberrechtlicher Einschränkungen an gesellschaftlich nützlichen Aktivitäten bedeuten, die bisher – aus gutem Grund! – erlaubt waren.
Nehmen wir mal die einzelnen Schritte des Trainings von KI-Modellen auseinander.
Als Erstes greift man die Inhalte von einem Haufen Webseiten ab. Das ist unter aktuell geltendem Urheberrecht zweifellos legal. Man braucht keine Lizenz, um von einem urheberrechtlich geschützten Werk eine temporäre Kopie anzulegen, um sie zu analysieren, denn sonst wären auch Suchmaschinen illegal. Wenn wir dieses Sammeln verbieten, wird Google die letzte Suchmaschine gewesen sein, und das Internet-Archiv wird seinen Betrieb einstellen müssen. Auch der Typ in Österreich, der die Preise von allen Supermarkt-Websites abgegriffen hat und damit beweisen konnte, dass die großen Ketten unter einer Decke steckten, um Preise zu manipulieren, wäre dann in echten Schwierigkeiten.
Als Nächstes werden die gesammelten Inhalte analysiert. Im Wesentlichen zählt man Zeug. Man zählt Pixel und deren Farben, und den Abstand zu anderen Pixeln. Oder man zählt Wörter. Dafür braucht man offensichtlich auch keine Lizenz. Es ist halt nicht verboten, die Elemente eines geschützten Werkes zu zählen. Und wir wollen auf keinen Fall, dass das verboten wird, jedenfalls nicht, wenn wir auch nur im Geringsten an Forschung interessiert sind.
Es ist wichtig festzuhalten, dass es legal ist, Dinge zu zählen, selbst wenn man mit einer Kopie arbeitet, die man unrechtmäßig erworben hat. Wenn du zum Beispiel auf einem Flohmarkt eine Bootleg-CD kaufst, sie mit nach Hause nimmst und dann eine Liste von allen Adverbien in den Texten erstellst und veröffentlichst, verstößt du damit nicht gegen das Urheberrecht.
Vielleicht hat man mit dem Erwerb der „Raubkopie-CD“ gegen das Urheberrecht verstoßen, aber nicht durch das Zählen von Wörtern im Text.
Deswegen hat Anthropic für das Trainieren ihres Modells mit einer Riesenmenge raubkopierter Bücher einen Vergleich über 1,5 Milliarden Dollar angeboten: Nicht, weil das Zählen der Wörter in den Büchern die Rechte von irgendjemandem verletzt hätte, sondern weil sie befürchteten, dass sie mit Schadenersatzklagen von 150.000 Dollar pro Buch überzogen worden wären für das Herunterladen der Dateien.
Schön, nachdem du also alle Pixel oder Wörter gezählt hast, ist es Zeit für den letzten Schritt: sie zu veröffentlichen. Denn nichts anderes ist ein Modell. Ein literarisches Werk (in diesem Fall ein Stück Software), das einen Haufen Fakten über einen Haufen anderer Werke enthält; Wort- und Pixel-Verteilungen, kodiert in einer vieldimensionalen Matrix.
Und nochmal, das Urheberrecht verbietet es nicht, Fakten über urheberrechtlich geschützte Werke zu veröffentlichen. Und nochmal, niemand sollte in einer Welt leben wollen, in der jemand anderes entscheidet, welche wahren, faktischen Aussagen du veröffentlichen darfst.
Aber hey, du denkst vielleicht, das sind alles nur Spitzfindigkeiten. Vielleicht denkst du, ich rede nur Blödsinn. Das ist in Ordnung. Es wäre nicht das erste Mal, dass jemand das glaubt.
Selbst wenn ich Recht habe mit meiner Ansicht, wie das Urheberrecht jetzt funktioniert, gibt es schließlich keinen Grund, warum wir das Urheberrecht nicht ändern könnten, um Trainingsaktivitäten zu verbieten. Vielleicht gibt es ja eine schlaue Möglichkeit, den Gesetzestext so wortgewandt zu formulieren, dass er nur die schlechten Sachen erwischt, die uns nicht gefallen, und nicht all das Gute, das beim Sammeln, Analysieren und Veröffentlichen herauskommt.
Aber selbst dann hilft ein solches neues Urheberrecht den Kreativschaffenden nicht. Wenn du glaubst, das doch zu können, solltest du mal gründlich hierüber nachdenken: Das Urheberrecht wurde seit 1976 stetig ausgeweitet, sodass es heute mehr Werkarten umfasst, Exklusivrechte auf noch mehr Verwendungszwecke einräumt und länger andauert.
Und heute ist die Medienindustrie größer und profitabler als jemals zuvor. Außerdem erhielten die Kreativschaffenden noch nie zuvor einen so geringen Anteil am Umsatz der Medienindustrie, sowohl in reellen Zahlen als auch vom Prozentsatz der irrwitzigen Gewinne her, die ihre Bosse bei den Medienfirmen einfahren.
Wie kann es sein, dass wir den Urheber.innen all diese Rechte gegeben haben, und diese Rechte unzählige Milliarden erbracht haben, die Urheber.innen aber ärmer sind als vorher? Das liegt an Folgendem: Wer in einem Kreativmarkt, der dominiert wird von fünf Verlagen, vier Studios, drei Labels, zwei mobilen App-Stores, und einer einzigen Firma, die alle elektronischen Bücher und Hörbücher kontrolliert, einem Kreativschaffenden Zusatzrechte als Verhandlungsmasse gibt, könnte genauso gut auch einem schikanierten Kind mehr Essensgeld mitgeben.
Es ist egal, wie viel Essensgeld du deinem Kind mitgibst, die Schulhoftyrannen werden ihm alles wieder wegnehmen. Wenn du ihm genug Geld mitgibst, werden sie eine Agentur damit beauftragen, eine globale Werbekampagne zu starten, mit dem Motto: „Denkt an die hungrigen Kinder! Gebt ihnen mehr Essensgeld!“ Kreativschaffende, die die Gerichtsverfahren der großen Studios und Labels bejubeln, sollten sich die erste Regel des Klassenkampfes in Erinnerung rufen: Was für deinen Chef gut ist, ist selten auch gut für dich.
An dem Tag, an dem Disney und Universal ihre Klage gegen Midjourney einreichten, erhielt ich eine Pressemitteilung des amerikanischen Verbands der Musikindustrie, RIAA (Recording Industry Association of America), die die Musiksparten von Disney und Universal vertreten. Universal ist das weltweit größte Label. Zusammen mit Sony und Warner kontrollieren sie heute die Vermarktungsrechte von 70 % aller aufgenommenen Musik.
Die Mitteilung beginnt mit: „Partnerschaften, die sowohl KI-Innovation voranbringen als auch menschliches Kunstschaffen fördern, sind der Weg nach vorne.“ Sie endet mit: „Dieser Schritt von Disney und Universal setzt ein wichtiges Zeichen für menschliche Kreativität und verantwortungsbewusste Innovation.“
Unterschrieben wurde sie von Mitch Glazier, Geschäftsführer der RIAA. Wahrscheinlich sagt euch dieser Name nichts, und darum will ich euch erklären, wer dieser Mitch Glazier ist. Heute ist Mitch Glazier Geschäftsführer der RIAA, mit einem Jahresgehalt von 1,3 Millionen Dollar. Aber bis 1999 war Mitch Glazier ein Mitarbeiter im US-Kongress, und 1999
schmuggelte er einen Zusatz in einen Gesetzentwurf zu einem völlig anderen Thema – einem Gesetz zur Verbesserung des privaten Satellitenfernsehens („Satellite Home Viewer Improvement Act“) – der Musikern die Möglichkeit nahm, ihre eigenen Aufnahmen vom Label zurückzuholen. Das ist eine Praxis, die besonders wichtig für sogenannte „Heritage Acts“ war (ein Euphemismus der Musikindustrie für „alte Musik, die von Schwarzen aufgenommen wurde“), für die dieses Recht entscheidend war, ob sie ihre Miete zahlen konnten oder auf der Straße landeten.
Als klar wurde, dass Glazier diese musiker-verarmende Abzocke durchgezogen hatte, gab es einen derartigen öffentlichen Aufschrei, dass der Kongress zu einer Sondersitzung zurückkam, nur um über die Streichung von Glaziers Zusatz abzustimmen. Glazier wurde daraufhin von seiner kuscheligen Stelle im Kongress entfernt. Daraufhin begann die RIAA, ihm über eine Million Dollar pro Jahr zu zahlen, um „die Musikindustrie zu repräsentieren“.
Das ist der Typ, der die Pressererklärung in meinem Postfach unterschrieben hatte. Was er damit sagen wollte: das Problem ist nicht, dass Midjourney seine generative KI mit urheberrechtlich geschütztem Material trainieren will, um dann damit Künstlerinnen an den Rand der Armut zu treiben. Das Problem ist, dass Midjourney die RIAA-Mitglieder Universal und Disney nicht für die Erlaubnis bezahlt hat, ein Modell zu trainieren. Denn hätte Midjourney doch bloß mehrere Millionen an Disney und Universal gezahlt für die Trainingsrechte an ihren Sammlungen, hätten beide Firmen gern erlaubt, dass sie nach Herzenslust weiter trainieren, und sie hätten die daraus resultierenden Modelle gekauft und so viele Kreativ-Profis wie möglich entlassen.
Ich meine, haben diese Leute die Hollywood-Streiks schon vergessen? Ich jedenfalls nicht. Ich wohne in Burbank, der Heimat von Disney, Universal und Warner, und ich war mit meinen Genoss.innen von der Schriftsteller-Vereinigung an vorderster Front, um unsere Solidarität im Namen meiner Gewerkschaft IATSE 830 zu bekunden, der Gewerkschaft der Animationskünstler, wo ich Mitglied der Schriftsteller-Gruppe bin. (Anm. d. Übers.: IATSE 830 ist die Gewerkschaft für Theaterkostüme, Make-up und Frisuren, die Gewerkschaft der Animationskünstler – die Cory offenbar gemeint hat – ist IATSE 839.)
Und ich werde nie vergessen, wie einer der Schriftsteller sich zu mir umdrehte und sagte: „Weißt du, man gibt einem LLM Anweisungen auf genau dieselbe Art, in der ein Manager den Autoren grottige Anweisungen gibt. So etwas wie: ‚Macht so was wie E.T., aber mit einem Hund, und mit einer Liebesgeschichte, und im Zweiten Akt eine Verfolgungsjagd.‘ Der Unterschied ist, dass die Autoren dich auslachen, wenn du das ihnen sagst, und sie dich einen verdammten Idioten im Anzug nennen. Aber sag es zu einem LLM, und es wird fröhlich ein grauenvolles Manuskript rausrotzen, das den Anforderungen exakt entspricht (du weißt schon, ‚Air Bud – Champion auf vier Pfoten‘).“
Diese Firmen versuchen verzweifelt, Beschäftigte durch KI zu ersetzen. Wenn die Bildagentur Getty Images KI-Firmen verklagt, geht es ihnen gar nicht um die Interessen der Fotografen. Getty hasst es, Fotografinnen zu bezahlen! Getty will nur für das Training bezahlt werden, und sie wollen Leitplanken für das daraus entstandene KI-Modell, die unmöglich machen, dass jemand anderes außer Getty selbst damit Bilder erzeugen kann, die mit Getty konkurrieren. Aber wir können absolut sicher sein, dass Getty selbst seine Modelle dazu nutzen wird, so viele Fotografen wie möglich in den Ruin zu treiben.
Ein neues Urheberrecht zum Training von Modellen wird uns nicht in eine Welt führen, in der Modelle nicht trotzdem genutzt werden, um Kunstschaffende zu zerstören. Es wird nur dazu führen, dass die Standardverträge der wenigen Firmen, die den gesamten schöpferischen Arbeitsmarkt kontrollieren, um eine Klausel erweitert werden, die von uns verlangt, diese neuen Trainings-Rechte an ebenjene Firmen abzutreten. Wer ein neues Urheberrecht fordert, macht sich nur zum nützlichen Idioten seines Chefs, zu einem menschlichen Schutzschild, den er sich in Streitigkeiten um Vertragsrichtlinien vor sich hertragen kann, ein fadenscheiniger Vorwand nach dem Motto: „Denkt denn niemand an die hungernden Künstler?“
Was sie aber in Wirklichkeit fordern, ist eine Welt, in der 30 % des Investment-Kapitals der KI-Firmen in die Taschen der Aktionäre wandern. Wenn ein Künstler von raffgierigen Monopolisten verschlungen wird, ist es dann wirklich noch so wichtig, wie genau sie den Kuchen unter sich aufteilen?
Wir müssen Künstler.innen vor den KI-Raubtieren beschützen statt ihnen nur eine neue Ausdrucksmöglichkeit für ihre Wut über die eigene Verelendung zu geben.
Ein Rezept für Zentaurentum
Aber so unglaublich es klingt, gibt es dafür eine ganz einfache Möglichkeit. Nachdem es für die Rechte der Kulturschaffenden über 20 Jahre lang konsequent alles falsch und immer schlimmer gemacht hat, hat das US-Copyright-Office endlich mal etwas Glorreiches und wunderbar Richtiges gemacht. Während dieser KI-Blase hat das Copyright-Office – korrekterweise – durchgehend den Standpunkt vertreten, dass KI-generierte Werke nicht dem Urheberrecht unterliegen, weil dieses Recht ausschließlich für Menschen gilt. Deswegen ist das „Affen-Selfie“ gemeinfrei. Urheberrechte gelten nur für Werke des menschlichen kreativen Ausdrucks, welche in einem physischen Medium festgehalten sind.Und das Copyright-Office vertritt diese Auffassung nicht einfach nur, es verteidigt sie auch vehement vor Gericht, und hat wiederholt Urteile erstritten, die dieses Prinzip aufrechterhalten.
Die Tatsache, dass sämtliche KI-generierten Werke gemeinfrei sind, bedeutet: Wenn Getty, Disney, Universal oder Hearst-Zeitungen KI nutzen, um Werke zu erzeugen, dann kann sich jeder diese Werke nehmen, sie vervielfältigen, verkaufen oder kostenlos weitergeben. Und das Einzige, was diese Firmen mehr hassen als Kreativschaffende zu bezahlen, ist, wenn sich andere Leute ohne Erlaubnis einfach ihre Sachen nehmen.
Die Haltung des US-Copyright-Office bewirkt, dass diese Firmen nur dann Verwertungsrechte bekommen können, wenn sie Menschen für ihre schöpferische Leistung bezahlen. Das ist ein Rezept für Zentaurentum. Wenn du ein bildender Künstler oder eine Schriftstellerin bist, die sich mit Hilfe von KI-Prompts zu neuen Ideen oder Variationen inspirieren lässt, ist das kein Problem, denn die letztendliche Arbeit kommt von dir. Oder wenn du beim Videoschnitt Deep-Fake-Technik nutzt, um die Augen von 200 Statist.innen in einer Massenszene anzupassen, dann sind zugegebenermaßen die Augen gemeinfrei, aber der Film bleibt urheberrechtlich geschützt.
Doch Kreativschaffende müssen sich nicht auf die US-Regierung verlassen, um uns aus den Fängen der KI-Raubtiere zu retten. Wir können das selbst schaffen, so wie die Autoren in ihrem historischen Streik. Sie haben die Studios in die Knie gezwungen, weil sie sich organisiert haben und solidarisch waren, aber auch, weil ihnen erlaubt ist, was sonst praktisch keine anderen US-Angestellten dürfen: Sie können Tarifverträge aushandeln, die dann für alle Beschäftigten und Arbeitgeber.innen der gesamte Branche verbindlich sind.
Das ist in den USA für fast alle Beschäftigten seit den späten 1940er Jahren illegal, als es durch das Taft-Hartley-Gesetz verboten wurde. Wenn wir eine Kampagne für ein neues Gesetz starten wollen, in der Hoffnung, dass wir dann mehr verdienen können und mehr Kontrolle über unsere eigene Arbeit haben, dann sollten wir dafür kämpfen, die Tarifautonomie der Gewerkschaften wiederherzustellen, und nicht dafür, das Urheberrecht auszuweiten.
In einer Kampagne für die Ausweitung der Urheberrechte stehen wir an der Seite unserer Vorgesetzten, denen unsere Bedürfnisse noch nie am Herzen lagen. Im Kampf um die Wiederherstellung der Tarifautonomie stehen wir hingegen Seite an Seite mit allen Beschäftigten im ganzen Land. So wie es in dem Lied heißt: „Which side are you on?“ (dt. „Auf wessen Seite stehst du?“)
Was übrig bleibt
OK, ich muss für diesen Vortrag langsam mal die Landeklappen ausfahren, denn mir läuft die Zeit davon. Also schließe ich folgendermaßen: KI ist eine Blase, und Blasen sind entsetzlich.Blasen verschieben die Ersparnisse von normalen Leuten, die einfach nur in Würde ihren Ruhestand verbringen wollen, hin zu den reichsten und unmoralischsten Leuten in unserer Gesellschaft, und jede Blase platzt irgendwann, und reißt alle Ersparnisse mit sich.
Doch nicht alle Blasen sind gleich geschaffen. Manche hinterlassen etwas Produktives. Worldcom hat einfachen Leuten durch Betrug mit Glasfaser-Aufträgen Milliarden gestohlen. Der Geschäftsführer kam ins Gefängnis und starb dort. Aber die Glasfaserkabel haben ihn überdauert.
Sie liegen immer noch in der Erde. Bei mir zu Hause habe ich einen symmetrischen 2-Gigabit-Glasfaseranschluss, weil AT&T einige von Worldcoms alten „dunklen Glasfasern“ wieder erhellt hat. Insgesamt wäre es besser gewesen, wenn es Worldcom nie gegeben hätte. Aber das einzige, was noch schlimmer wäre als die ganzen widerlichen Betrügereien von Worldcom, wäre, wenn man gar nichts aus dem Scherbenhaufen hätte retten können.
Ich glaube zum Beispiel nicht, dass von Kryptowährungen viel übrig bleiben wird. Klar, ein paar Coder werden ein paar Dinge über sichere Programmierung in Rust gelernt haben. Doch wenn Kryptowährungen sterben, wird nichts übrigbleiben als eine schlechte marktradikale Wirtschaftslehre (Österreichische Schule) und noch schlechtere Affen-JPEGs.
KI ist eine Blase und sie wird platzen. Die meisten Firmen werden untergehen. Die meisten Rechenzentren werden dichtmachen oder in Einzelteilen abverkauft werden. Was wird also bleiben?
Wir werden einen Haufen Programmierer.innen haben, die richtig gut sind in angewandter Statistik. Wir werden eine Masse an billigen Grafikprozessoren haben, was sicher gut ist für, sagen wir, Spezialeffekt-Künstlerinnen und Klimaforscher, die sich die unverzichtbare Hardware dann für einen Spottpreis kaufen können. Und wir werden Open-Source-Modelle haben, die auf Standard-Hardware laufen, KI-Werkzeuge, die eine Menge nützliche Sachen machen können, wie z. B. Audio-und Video-Transkriptionen, Bildbeschreibungen, Zusammenfassungen von Dokumenten, Automatisierung von arbeitsintensiven Grafikbearbeitungen wie dem Entfernen von Hintergründen, oder von unbeteiligten Fußgängern aus Fotos. Diese werden auf unseren Laptops und Smartphones laufen, und Open-Source-Hackerinnen werden Dinge aus ihnen herauskitzeln, die sich ihre Schöpfer nie hätten träumen lassen.
Wenn es nie eine KI-Blase gegeben hätte, wenn all diese Sachen einfach bloß entstanden wären, weil ein paar Informatiker und Produktmanager.innen ein paar Jahre herumgespielt hätten und auf tolle neue Ideen für Apps gekommen wären für Backpropagation und Maschinelles Lernen oder generative Gegenspieler-Netzwerke, wären die meisten Leute angenehm überrascht von diesen interessanten neuen Sachen, die ihre Computer plötzlich können. Wir würden einfach „Plugin“ dazu sagen.
Es ist die Blase, die zum Kotzen ist, nicht die Anwendungen. Die Blase will keine bezahlbaren, nützlichen Dinge. Sie will teure, „disruptive“ Dinge. Große „Foundation“-Modelle, die jedes Jahr Milliarden Dollar verlieren.
Wenn die KI-Investitionsmanie ein Ende findet, werden die meisten dieser Modelle verschwinden, weil es sich dann einfach nicht mehr rechnet, die Rechenzentren weiterlaufen zu lassen. Wie das Stein’sche Gesetz sagt: „Alles, was nicht ewig weitergehen kann, hört irgendwann auf.“
Der Kollaps der KI-Blase wird hässlich werden. Sieben KI-Firmen machen im Moment mehr als ein Drittel des gesamten Aktienmarktes aus, und sie reichen gerade denselben 100-Milliarden-Dollar-Schuldschein endlos im Kreis herum.
Firmenbosse entlassen massenhaft produktive Arbeitskräfte und ersetzen sie durch schrottige KI, und wenn die schrottige KI verschwindet, wird niemand mehr in der Lage sein, den Großteil dieser Beschäftigten zu finden und wieder einzustellen. Nach den dysfunktionalen KI-Systemen kommt das große Nichts.
Die Blase platzen lassen
KI ist das Asbest in den Wänden unserer technologischen Gesellschaft, hemmungslos dort hineingestopft von einem wild gewordenen Finanzsektor und Amok laufenden Tech-Monopolisten.Es wird uns mehr als eine Generation lang beschäftigen, das alles wieder herauszubekommen.
Also müssen wir diese Blase loswerden. Sie so schnell wie möglich zum Platzen bringen. Dazu müssen wir uns auf die wichtigsten Faktoren konzentrieren, die die Blase antreiben. Die Blase wird nicht angetrieben von Deepfake-Pornos oder Desinformationen über Wahlen, oder KI-Bildgeneration oder KI-Müll-Werbung.
All das ist schrecklich und schädlich, doch es treibt nicht die Investitionen an. Der Gesamtwert all dieser Anwendungen ist gegenüber dem Kapitalaufwand und den Betriebskosten von KI kaum mehr als ein Rundungsfehler. Das sind Randerscheinungen und Resteverwertung: glitzernd, aber unwichtig für die Blase.
Wenn wir uns von all diesen Nutzungen trennen, reduziert das den erwarteten Umsatz der KI-Firmen um eine Summe, die in erster Näherung Null ist.
Dasselbe gilt für den ganzen „KI-Sicherheit“-Unfug, der sich angeblich damit beschäftigt, wie wir KI daran hindern, ein Bewusstsein zu entwickeln und uns alle in Büroklammern zu verwandeln.
Erstens ist das schon oberflächlich betrachtet absurd. Noch mehr Wörter und Grafikprozessoren auf ein Wort-Rate-Programm zu werfen wird kein Bewusstsein erzeugen. Das ist so, als würde man sagen: „nun, wir züchten diese Pferde, damit sie immer schneller laufen, also ist es nur noch eine Frage der Zeit, bis eine unserer Stuten eine Lokomotive zur Welt bringt.“ Ein menschlicher Geist ist keine Wort-Rate-Maschine mit vielen zusätzlichen Wörtern.
Versteht mich nicht falsch. Ich bin schon hier, um Science-Fiction-Gedankenexperimente anzustellen. Aber Science Fiction ist keine Wahrsagerei. SF-Geschichten über Hyperintelligenz sind futuristische Parabeln, keine Geschäftsmodelle, Zukunftspläne oder Vorhersagen.
Die KI-Sicherheitsleute sagen, sie sorgen sich, dass KI in den Weltuntergang führt, aber KI-Firmenbosse lieben diese schrägen Typen. Denn wenn die KI mächtig genug ist, die Welt zu zerstören, stellt euch doch mal vor, wie viel Geld man damit verdienen kann. Außerdem steht keinem KI-Business-Plan die Zeile „Einnahmen durch das Umwandeln der Menschheit in Büroklammern“. Das heißt, selbst wenn wir das verbieten, würde es die KI-Firmen keinen Cent Investment-Kapital kosten.
Um die Blase platzen zu lassen, müssen wir beharrlich die Kräfte angreifen, die sie hervorgebracht haben: den Mythos, dass KI deine Arbeit machen kann, vor allem, wenn du ein gutes Einkommen hast, das dein Chef sich krallen kann; die Einsicht, dass Wachstumsfirmen immer neue, immer abstrusere Blasen brauchen, um am Leben zu bleiben; die Tatsache, dass Beschäftigte und die Allgemeinheit, für die sie arbeiten, in diesem Kampf auf derselben Seite stehen, und die Chefs und ihre Investor.innen auf der anderen.
Weil die KI-Blase wirklich eine schlechte Nachricht ist, verdient sie es, ernsthaft bekämpft zu werden, und ein ernstgemeinter Kampf gegen KI packt sie an den Wurzeln: an den wesentlichen Faktoren, die das Material für die Verbrennung von hunderten Milliarden liefern, die dazu ausgegeben werden, uns alle an die Armutsgrenze zu treiben und all unsere Wände mit High-Tech-Asbest vollzustopfen.
© Cory Doctorow CC BY 3.0 https://creativecommons.org/licenses/by/4.0/
Übersetzung Bernd Sieker und Leena Simon:
https://digitalcourage.de/sites/default/files/2026-06/Der%20Umgekehrte%20Zentaur%20%E2%80%93%20Cory%20Doctorow.pdf
Last night, I gave a speech for the University of Washington's "Neuroscience, AI and Society" lecture series, through the university's Computational Neuroscience Center. It was called "The Reverse Centaur’s Guide to Criticizing AI," and it's based on the manuscript for my next book, "The Reverse Centaur’s Guide to Life After AI," which will be out from Farrar, Straus and Giroux next June. The talk was sold out, but here's the text of my lecture. I'm very grateful to UW for the opportunity, and for a lovely visit to Seattle.
Artikel ansehen
Zusammenfassung ansehen
by Cory Doctorow - 05 Dec 2025
source: https://pluralistic.net/2025/12/05/pop-that-bubble/#u-washington
Last night, I gave a speech for the University of Washington's "Neuroscience, AI and Society" lecture series, through the university's Computational Neuroscience Center. It was called "The Reverse Centaur’s Guide to Criticizing AI," and it's based on the manuscript for my next book, "The Reverse Centaur’s Guide to Life After AI," which will be out from Farrar, Straus and Giroux next June:
https://www.eventbrite.com/e/future-tense-neuroscience-ai-and-society-with-cory-doctorow-tickets-1735371255139
The talk was sold out, but here's the text of my lecture. I'm very grateful to UW for the opportunity, and for a lovely visit to Seattle!
==
I'm a science fiction writer, which means that my job is to make up futuristic parables about our current techno-social arrangements to interrogate not just what a gadget does, but who it does it for, and who it does it to.
What I don't do is predict the future. No one can predict the future, which is a good thing, since if the future were predictable, that would mean that what we all do couldn't change it. It would mean that the future was arriving on fixed rails and couldn't be steered.
Jesus Christ, what a miserable proposition!
Now, not everyone understands the distinction. They think sf writers are oracles, soothsayers. Unfortunately, even some of my colleagues labor under the delusion that they can "see the future."
But for every sf writer who deludes themselves into thinking that they are writing the future, there are a hundred sf fans who believe that they are reading the future, and a depressing number of those people appear to have become AI bros. The fact that these guys can't shut up about the day that their spicy autocomplete machine will wake up and turn us all into paperclips has led many confused journalists and conference organizers to try to get me to comment on the future of AI.
That's a thing I strenuously resisted doing, because I wasted two years of my life explaining patiently and repeatedly why I thought crypto was stupid, and getting relentless bollocked by cryptocurrency cultists who at first insisted that I just didn't understand crypto. And then, when I made it clear that I did understand crypto, insisted that I must be a paid shill.
This is literally what happens when you argue with Scientologists, and life is Just. Too. Short.
So I didn't want to get lured into another one of those quagmires, because on the one hand, I just don't think AI is that important of a technology, and on the other hand, I have very nuanced and complicated views about what's wrong, and not wrong, about AI, and it takes a long time to explain that stuff.
But people wouldn't stop asking, so I did what I always do. I wrote a book.
Over the summer I wrote a book about what I think about AI, which is really about what I think about AI criticism, and more specifically, how to be a good AI critic. By which I mean: "How to be a critic whose criticism inflicts maximum damage on the parts of AI that are doing the most harm." I titled the book The Reverse Centaur's Guide to Life After AI, and Farrar, Straus and Giroux will publish it in June, 2026.
But you don't have to wait until then because I am going to break down the entire book's thesis for you tonight, over the next 40 minutes. I am going to talk fast.
#
Start with what a reverse centaur is. In automation theory, a "centaur" is a person who is assisted by a machine. You're a human head being carried around on a tireless robot body. Driving a car makes you a centaur, and so does using autocomplete.
And obviously, a reverse centaur is a machine head on a human body, a person who is serving as a squishy meat appendage for an uncaring machine.
Like an Amazon delivery driver, who sits in a cabin surrounded by AI cameras, that monitor the driver's eyes and take points off if the driver looks in a proscribed direction, and monitors the driver's mouth because singing isn't allowed on the job, and rats the driver out to the boss if they don't make quota.
The driver is in that van because the van can't drive itself and can't get a parcel from the curb to your porch. The driver is a peripheral for a van, and the van drives the driver, at superhuman speed, demanding superhuman endurance. But the driver is human, so the van doesn't just use the driver. The van uses the driver up.
Obviously, it's nice to be a centaur, and it's horrible to be a reverse centaur. There are lots of AI tools that are potentially very centaur-like, but my thesis is that these tools are created and funded for the express purpose of creating reverse-centaurs, which is something none of us want to be.
But like I said, the job of an sf writer is to do more than think about what the gadget does, and drill down on who the gadget does it for and who the gadget does it to. Tech bosses want us to believe that there is only one way a technology can be used. Mark Zuckerberg wants you to think that it's technologically impossible to have a conversation with a friend without him listening in. Tim Cook wants you to think that it's technologically impossible for you to have a reliable computing experience unless he gets a veto over which software you install and without him taking 30 cents out of every dollar you spend. Sundar Pichai wants you think that it's impossible for you to find a webpage unless he gets to spy on you from asshole to appetite.
This is all a kind of vulgar Thatcherism. Margaret Thatcher's mantra was "There is no alternative." She repeated this so often they called her "TINA" Thatcher: There. Is. No. Alternative. TINA.
"There is no alternative" is a cheap rhetorical slight. It's a demand dressed up as an observation. "There is no alternative" means "STOP TRYING TO THINK OF AN ALTERNATIVE." Which, you know, fuck that.
I'm an sf writer, my job is to think of a dozen alternatives before breakfast.
So let me explain what I think is going on here with this AI bubble, and sort out the bullshit from the material reality, and explain how I think we could and should all be better AI critics.
#
Start with monopolies: tech companies are gigantic and they don't compete, they just take over whole sectors, either on their own or in cartels.
Google and Meta control the ad market. Google and Apple control the mobile market, and Google pays Apple more than $20 billion/year not to make a competing search engine, and of course, Google has a 90% Search market-share.
Now, you'd think that this was good news for the tech companies, owning their whole sector.
But it's actually a crisis. You see, when a company is growing, it is a "growth stock," and investors really like growth stocks. When you buy a share in a growth stock, you're making a bet that it will continue to grow. So growth stocks trade at a huge multiple of their earnings. This is called the "price to earnings ratio" or "P/E ratio."
But once a company stops growing, it is a "mature" stock, and it trades at a much lower P/E ratio. So for every dollar that Target – a mature company – brings in, it is worth ten dollars. It has a P/E ratio of 10, while Amazon has a P/E ratio of 36, which means that for every dollar Amazon brings in, the market values it at $36.
It's wonderful to run a company that's got a growth stock. Your shares are as good as money. If you want to buy another company, or hire a key worker, you can offer stock instead of cash. And stock is very easy for companies to get, because shares are manufactured right there on the premises, all you have to do is type some zeroes into a spreadsheet, while dollars are much harder to come by. A company can only get dollars from customers or creditors.
So when Amazon bids against Target for a key acquisition, or a key hire, Amazon can bid with shares they make by typing zeroes into a spreadsheet, and Target can only bid with dollars they get from selling stuff to us, or taking out loans, which is why Amazon generally wins those bidding wars.
That's the upside of having a growth stock. But here's the downside: eventually a company has to stop growing. Like, say you get a 90% market share in your sector, how are you gonna grow?
Once the market decides that you aren't a growth stock, once you become mature, your stock is revalued, to a P/E ratio befitting a mature stock.
If you are an exec at a dominant company with a growth stock, you have to live in constant fear that the market will decide that you're not likely to grow any further. Think of what happened to Facebook in the first quarter of 2022. They told investors that they experienced slightly slower growth in the USA than they had anticipated, and investors panicked. They staged a one-day, $240B sell off. A quarter-trillion dollars in 24 hours! At the time, it was the largest, most precipitous drop in corporate valuation in human history.
That's a monopolist's worst nightmare, because once you're presiding over a "mature" firm, the key employees you've been compensating with stock, experience a precipitous pay-drop and bolt for the exits, so you lose the people who might help you grow again, and you can only hire their replacements with dollars. With dollars, not shares.
And the same goes for acquiring companies that might help you grow, because they, too, are going to expect money, not stock. This is the paradox of the growth stock. While you are growing to domination, the market loves you, but once you achieve dominance, the market lops 75% or more off your value in a single stroke if they don't trust your pricing power.
Which is why growth stock companies are always desperately pumping up one bubble or another, spending billions to hype the pivot to video, or cryptocurrency, or NFTs, or Metaverse, or AI.
I'm not saying that tech bosses are making bets they don't plan on winning. But I am saying that winning the bet – creating a viable metaverse – is the secondary goal. The primary goal is to keep the market convinced that your company will continue to grow, and to remain convinced until the next bubble comes along.
So this is why they're hyping AI: the material basis for the hundreds of billions in AI investment.
#
Now I want to talk about how they're selling AI. The growth narrative of AI is that AI will disrupt labor markets. I use "disrupt" here in its most disreputable, tech bro sense.
The promise of AI – the promise AI companies make to investors – is that there will be AIs that can do your job, and when your boss fires you and replaces you with AI, he will keep half of your salary for himself, and give the other half to the AI company.
That's it.
That's the $13T growth story that MorganStanley is telling. It's why big investors and institutionals are giving AI companies hundreds of billions of dollars. And because they are piling in, normies are also getting sucked in, risking their retirement savings and their family's financial security.
Now, if AI could do your job, this would still be a problem. We'd have to figure out what to do with all these technologically unemployed people.
But AI can't do your job. It can help you do your job, but that doesn't mean it's going to save anyone money. Take radiology: there's some evidence that AIs can sometimes identify solid-mass tumors that some radiologists miss, and look, I've got cancer. Thankfully, it's very treatable, but I've got an interest in radiology being as reliable and accurate as possible.
If my Kaiser hospital bought some AI radiology tools and told its radiologists: "Hey folks, here's the deal. Today, you're processing about 100 x-rays per day. From now on, we're going to get an instantaneous second opinion from the AI, and if the AI thinks you've missed a tumor, we want you to go back and have another look, even if that means you're only processing 98 x-rays per day. That's fine, we just care about finding all those tumors."
If that's what they said, I'd be delighted. But no one is investing hundreds of billions in AI companies because they think AI will make radiology more expensive, not even if that also makes radiology more accurate. The market's bet on AI is that an AI salesman will visit the CEO of Kaiser and make this pitch: "Look, you fire 9/10s of your radiologists, saving $20m/year, you give us $10m/year, and you net $10m/year, and the remaining radiologists' job will be to oversee the diagnoses the AI makes at superhuman speed, and somehow remain vigilant as they do so, despite the fact that the AI is usually right, except when it's catastrophically wrong.
"And if the AI misses a tumor, this will be the human radiologist's fault, because they are the 'human in the loop.' It's their signature on the diagnosis."
This is a reverse centaur, and it's a specific kind of reverse-centaur: it's what Dan Davies calls an "accountability sink." The radiologist's job isn't really to oversee the AI's work, it's to take the blame for the AI's mistakes.
This is another key to understanding – and thus deflating – the AI bubble. The AI can't do your job, but an AI salesman can convince your boss to fire you and replace you with an AI that can't do your job. This is key because it helps us build the kinds of coalitions that will be successful in the fight against the AI bubble.
If you're someone who's worried about cancer, and you're being told that the price of making radiology too cheap to meter, is that we're going to have to re-home America's 32,000 radiologists, with the trade-off that no one will ever be denied radiology services again, you might say, "Well, OK, I'm sorry for those radiologists, and I fully support getting them job training or UBI or whatever. But the point of radiology is to fight cancer, not to pay radiologists, so I know what side I'm on."
AI hucksters and their customers in the C-suites want the public on their side. They want to forge a class alliance between AI deployers and the people who enjoy the fruits of the reverse centaurs' labor. They want us to think of ourselves as enemies to the workers.
Now, some people will be on the workers' side because of politics or aesthetics. They just like workers better than their bosses. But if you want to win over all the people who benefit from your labor, you need to understand and stress how the products of the AI will be substandard. That they are going to get charged more for worse things. That they have a shared material interest with you.
Will those products be substandard? There's every reason to think so. Earlier, I alluded to "automation blindness, "the physical impossibility of remaining vigilant for things that rarely occur. This is why TSA agents are incredibly good at spotting water bottles. Because they get a ton of practice at this, all day, every day. And why they fail to spot the guns and bombs that government red teams smuggle through checkpoints to see how well they work, because they just don't have any practice at that. Because, to a first approximation, no one deliberately brings a gun or a bomb through a TSA checkpoint.
Automation blindness is the Achilles' heel of "humans in the loop."
Think of AI software generation: there are plenty of coders who love using AI, and almost without exception, they are senior, experienced coders, who get to decide how they will use these tools. For example, you might ask the AI to generate a set of CSS files to faithfully render a web-page across multiple versions of multiple browsers. This is a notoriously fiddly thing to do, and it's pretty easy to verify if the code works – just eyeball it in a bunch of browsers. Or maybe the coder has a single data file they need to import and they don't want to write a whole utility to convert it.
Tasks like these can genuinely make coders more efficient and give them more time to do the fun part of coding, namely, solving really gnarly, abstract puzzles. But when you listen to business leaders talk about their AI plans for coders, it's clear they're not looking to make some centaurs.
They want to fire a lot of tech workers – they've fired 500,000 over the past three years – and make the rest pick up their work with coding, which is only possible if you let the AI do all the gnarly, creative problem solving, and then you do the most boring, soul-crushing part of the job: reviewing the AIs' code.
And because AI is just a word guessing program, because all it does is calculate the most probable word to go next, the errors it makes are especially subtle and hard to spot, because these bugs are literally statistically indistinguishable from working code (except that they're bugs).
Here's an example: code libraries are standard utilities that programmers can incorporate into their apps, so they don't have to do a bunch of repetitive programming. Like, if you want to process some text, you'll use a standard library. If it's an HTML file, that library might be called something like lib.html.text.parsing; and if it's a DOCX file, it'll be lib.docx.text.parsing. But reality is messy, humans are inattentive and stuff goes wrong, so sometimes, there's another library, this one for parsing PDFs, and instead of being called lib.pdf.text.parsing, it's called lib.text.pdf.parsing.
Now, because the AI is a statistical inference engine, because all it can do is predict what word will come next based on all the words that have been typed in the past, it will "hallucinate" a library called lib.pdf.text.parsing. And the thing is, malicious hackers know that the AI will make this error, so they will go out and create a library with the predictable, hallucinated name, and that library will get automatically sucked into your program, and it will do things like steal user data or try and penetrate other computers on the same network.
And you, the human in the loop – the reverse centaur – you have to spot this subtle, hard to find error, this bug that is literally statistically indistinguishable from correct code. Now, maybe a senior coder could catch this, because they've been around the block a few times, and they know about this tripwire.
But guess who tech bosses want to preferentially fire and replace with AI? Senior coders. Those mouthy, entitled, extremely highly paid workers, who don't think of themselves as workers. Who see themselves as founders in waiting, peers of the company's top management. The kind of coder who'd lead a walkout over the company building drone-targeting systems for the Pentagon, which cost Google ten billion dollars in 2018.
For AI to be valuable, it has to replace high-wage workers, and those are precisely the experienced workers, with process knowledge, and hard won intuition, who might spot some of those statistically camouflaged AI errors.
Like I said, the point here is to replace high-waged workers.
And one of the reasons the AI companies are so anxious to fire coders is that coders are the princes of labor. They're the most consistently privileged, sought-after, and well-compensated workers in the labor force.
If you can replace coders with AI, who cant you replace with AI? Firing coders is an ad for AI.
Which brings me to AI art. AI art – or "art" – is also an ad for AI, but it's not part of AI's business model.
Let me explain: on average, illustrators don't make any money. They are already one of the most immiserated, precarized groups of workers out there. They suffer from a pathology called "vocational awe." That's a term coined by the librarian Fobazi Ettarh, and it refers to workers who are vulnerable to workplace exploitation because they actually care about their jobs – nurses, librarians, teachers, and artists.
If AI image generators put every illustrator working today out of a job, the resulting wage-bill savings would be undetectable as a proportion of all the costs associated with training and operating image-generators. The total wage bill for commercial illustrators is less than the kombucha bill for the company cafeteria at just one of Open AI's campuses.
The purpose of AI art – and the story of AI art as a death-knell for artists – is to convince the broad public that AI is amazing and will do amazing things. It's to create buzz. Which is not to say that it's not disgusting that former OpenAI CTO Mira Murati told a conference audience that "some creative jobs shouldn't have been there in the first place," and that it's not especially disgusting that she and her colleagues boast about using the work of artists to ruin those artists' livelihoods.
It's supposed to be disgusting. It's supposed to get artists to run around and say, "The AI can do my job, and it's going to steal my job, and isn't that terrible?"
Because the customers for AI – corporate bosses – don't see AI taking workers' jobs as terrible. They see it as wonderful.
But can AI do an illustrator's job? Or any artist's job?
Let's think about that for a second. I've been a working artist since I was 17 years old, when I sold my first short story, and I've given it a lot of thought, and here's what I think art is: it starts with an artist, who has some vast, complex, numinous, irreducible feeling in their mind. And the artist infuses that feeling into some artistic medium. They make a song, or a poem, or a painting, or a drawing, or a dance, or a book, or a photograph. And the idea is, when you experience this work, a facsimile of the big, numinous, irreducible feeling will materialize in your mind.
Now that I've defined art, we have to go on a little detour.
I have a friend who's a law professor, and before the rise of chatbots, law students knew better than to ask for reference letters from their profs, unless they were a really good student. Because those letters were a pain in the ass to write. So if you advertised for a postdoc and you heard from a candidate with a reference letter from a respected prof, the mere existence of that letter told you that the prof really thought highly of that student.
But then we got chatbots, and everyone knows that you generate a reference letter by feeding three bullet points to an LLM, and it'll barf up five paragraphs of florid nonsense about the student.
So when my friend advertises for a postdoc, they are flooded with reference letters, and they deal with this flood by feeding all these letters to another chatbot, and ask it to reduce them back to three bullet points. Now, obviously, they won't be the same bullet-points, which makes this whole thing terrible.
But just as obviously, nothing in that five-paragraph letter except the original three bullet points are relevant to the student. The chatbot doesn't know the student. It doesn't know anything about them. It cannot add a single true or useful statement about the student to the letter.
What does this have to do with AI art? Art is a transfer of a big, numinous, irreducible feeling from an artist to someone else. But the image-gen program doesn't know anything about your big, numinous, irreducible feeling. The only thing it knows is whatever you put into your prompt, and those few sentences are diluted across a million pixels or a hundred thousand words, so that the average communicative density of the resulting work is indistinguishable from zero.
It's possible to infuse more communicative intent into a work: writing more detailed prompts, or doing the selective work of choosing from among many variants, or directly tinkering with the AI image after the fact, with a paintbrush or Photoshop or The Gimp. And if there will ever be a piece of AI art that is good art – as opposed to merely striking, or interesting, or an example of good draftsmanship – it will be thanks to those additional infusions of creative intent by a human.
And in the meantime, it's bad art. It's bad art in the sense of being "eerie," the word Mark Fisher uses to describe "when there is something present where there should be nothing, or there is nothing present when there should be something."
AI art is eerie because it seems like there is an intender and an intention behind every word and every pixel, because we have a lifetime of experience that tells us that paintings have painters, and writing has writers. But it's missing something. It has nothing to say, or whatever it has to say is so diluted that it's undetectable.
The images were striking before we figured out the trick, but now they're just like the images we imagine in clouds or piles of leaves. We're the ones drawing a frame around part of the scene, we're the ones focusing on some contours and ignoring the others. We're looking at an inkblot, and it's not telling us anything.
Sometimes that can be visually arresting, and to the extent that it amuses people in a community of prompters and viewers, that's harmless.
I know someone who plays a weekly Dungeons and Dragons game over Zoom. It's transcribed by an open source model running locally on the dungeon master's computer, which summarizes the night's session and prompts an image generator to create illustrations of key moments. These summaries and images are hilarious because they're full of errors. It's a bit of harmless fun, and it bring a small amount of additional pleasure to a small group of people. No one is going to fire an illustrator because D&D players are image-genning funny illustrations where seven-fingered paladins wrestle with orcs that have an extra hand.
But bosses have and will fire illustrators, because they fantasize about being able to dispense with creative professionals and just prompt an AI. Because even though the AI can't do the illustrator's job, an AI salesman can convince the illustrator's boss to fire them and replace them with an AI that can't do their job.
This is a disgusting and terrible juncture, and we should not simply shrug our shoulders and accept Thatcherism's fatalism: "There is no alternative."
So what is the alternative? A lot of artists and their allies think they have an answer: they say we should extend copyright to cover the activities associated with training a model.
And I'm here to tell you they are wrong: wrong because this would inflict terrible collateral damage on socially beneficial activities, and it would represent a massive expansion of copyright over activities that are currently permitted – for good reason!.
Let's break down the steps in AI training.
First, you scrape a bunch of web-pages. This is unambiguously legal under present copyright law. You do not need a license to make a transient copy of a copyrighted work in order to analyze it, otherwise search engines would be illegal. Ban scraping and Google will be the last search engine we ever get, the Internet Archive will go out of business, that guy in Austria who scraped all the grocery store sites and proved that the big chains were colluding to rig prices would be in deep trouble.
Next, you perform analysis on those works. Basically, you count stuff on them: count pixels and their colors and proximity to other pixels; or count words. This is obviously not something you need a license for. It's just not illegal to count the elements of a copyrighted work. And we really don't want it to be, not if you're interested in scholarship of any kind.
And it's important to note that counting things is legal, even if you're working from an illegally obtained copy. Like, if you go to the flea market, and you buy a bootleg music CD, and you take it home and you make a list of all the adverbs in the lyrics, and you publish that list, you are not infringing copyright by doing so.
Perhaps you've infringed copyright by getting the pirated CD, but not by counting the lyrics.
This is why Anthropic offered a $1.5b settlement for training its models based on a ton of books it downloaded from a pirate site: not because counting the words in the books infringes anyone's rights, but because they were worried that they were going to get hit with $150k/book statutory damages for downloading the files.
OK, after you count all the pixels or the words, it's time for the final step: publishing them. Because that's what a model is: a literary work (that is, a piece of software) that embodies a bunch of facts about a bunch of other works, word and pixel distribution information, encoded in a multidimensional array.
And again, copyright absolutely does not prohibit you from publishing facts about copyrighted works. And again, no one should want to live in a world where someone else gets to decide which truthful, factual statements you can publish.
But hey, maybe you think this is all sophistry. Maybe you think I'm full of shit. That's fine. It wouldn't be the first time someone thought that.
After all, even if I'm right about how copyright works now, there's no reason we couldn't change copyright to ban training activities, and maybe there's even a clever way to wordsmith the law so that it only catches bad things we don't like, and not all the good stuff that comes from scraping, analyzing and publishing.
Well, even then, you're not gonna help out creators by creating this new copyright. If you're thinking that you can, you need to grapple with this fact: we have monotonically expanded copyright since 1976, so that today, copyright covers more kinds of works, grants exclusive rights over more uses, and lasts longer.
And today, the media industry is larger and more profitable than it has ever been, and also: the share of media industry income that goes to creative workers is lower than its ever been, both in real terms, and as a proportion of those incredible gains made by creators' bosses at the media company.
So how it is that we have given all these new rights to creators, and those new rights have generated untold billions, and left creators poorer? It's because in a creative market dominated by five publishers, four studios, three labels, two mobile app stores, and a single company that controls all the ebooks and audiobooks, giving a creative worker extra rights to bargain with is like giving your bullied kid more lunch money.
It doesn't matter how much lunch money you give the kid, the bullies will take it all. Give that kid enough money and the bullies will hire an agency to run a global campaign proclaiming "think of the hungry kids! Give them more lunch money!"
Creative workers who cheer on lawsuits by the big studios and labels need to remember the first rule of class warfare: things that are good for your boss are rarely what's good for you.
The day Disney and Universal filed suit against Midjourney, I got a press release from the RIAA, which represents Disney and Universal through their recording arms. Universal is the largest label in the world. Together with Sony and Warner, they control 70% of all music recordings in copyright today.
It starts: "There is a clear path forward through partnerships that both further AI innovation and foster human artistry."
It ends: "This action by Disney and Universal represents a critical stand for human creativity and responsible innovation."
And it's signed by Mitch Glazier, CEO of the RIAA.
It's very likely that name doesn't mean anything to you. But let me tell you who Mitch Glazier is. Today, Mitch Glazier is the CEO if the RIAA, with an annual salary of $1.3m. But until 1999, Mitch Glazier was a key Congressional staffer, and in 1999, Glazier snuck an amendment into an unrelated bill, the Satellite Home Viewer Improvement Act, that killed musicians' right to take their recordings back from their labels.
This is a practice that had been especially important to "heritage acts" (which is a record industry euphemism for "old music recorded by Black people"), for whom this right represented the difference between making rent and ending up on the street.
When it became clear that Glazier had pulled this musician-impoverishing scam, there was so much public outcry, that Congress actually came back for a special session, just to vote again to cancel Glazier's amendment. And then Glazier was kicked out of his cushy Congressional job, whereupon the RIAA started paying him more than $1m/year to "represent the music industry."
This is the guy who signed that press release in my inbox. And his message was: The problem isn't that Midjourney wants to train a Gen AI model on copyrighted works, and then use that model to put artists on the breadline. The problem is that Midjourney didn't pay RIAA members Universal and Disney for permission to train a model. Because if only Midjourney had given Disney and Universal several million dollars for training rights to their catalogs, the companies would have happily allowed them to train to their heart's content, and they would have bought the resulting models, and fired as many creative professionals as they could.
I mean, have we already forgotten the Hollywood strikes? I sure haven't. I live in Burbank, home to Disney, Universal and Warner, and I was out on the line with my comrades from the Writers Guild, offering solidarity on behalf of my union, IATSE 830, The Animation Guild, where I'm a member of the writers' unit.
And I'll never forget when one writer turned to me and said, "You know, you prompt an LLM exactly the same way an exec gives shitty notes to a writers' room. You know: 'Make me ET, except it's about a dog, and put a love interest in there, and a car chase in the second act.' The difference is, you say that to a writers' room and they all make fun of you and call you a fucking idiot suit. But you say it to an LLM and it will cheerfully shit out a terrible script that conforms exactly to that spec (you know, Air Bud)."
These companies are desperate to use AI to displace workers. When Getty Images sues AI companies, it's not representing the interests of photographers. Getty hates paying photographers! Getty just wants to get paid for the training run, and they want the resulting AI model to have guardrails, so it will refuse to create images that compete with Getty's images for anyone except Getty. But Getty will absolutely use its models to bankrupt as many photographers as it possibly can.
A new copyright to train models won't get us a world where models aren't used to destroy artists, it'll just get us a world where the standard contracts of the handful of companies that control all creative labor markets are updated to require us to hand over those new training rights to those companies. Demanding a new copyright just makes you a useful idiot for your boss, a human shield they can brandish in policy fights, a tissue-thin pretense of "won't someone think of the hungry artists?"
When really what they're demanding is a world where 30% of the investment capital of the AI companies go into their shareholders' pockets. When an artist is being devoured by rapacious monopolies, does it matter how they divvy up the meal?
We need to protect artists from AI predation, not just create a new way for artists to be mad about their impoverishment.
And incredibly enough, there's a really simple way to do that. After 20+ years of being consistently wrong and terrible for artists' rights, the US Copyright Office has finally done something gloriously, wonderfully right. All through this AI bubble, the Copyright Office has maintained – correctly – that AI-generated works cannot be copyrighted, because copyright is exclusively for humans. That's why the "monkey selfie" is in the public domain. Copyright is only awarded to works of human creative expression that are fixed in a tangible medium.
And not only has the Copyright Office taken this position, they've defended it vigorously in court, repeatedly winning judgments to uphold this principle.
The fact that every AI created work is in the public domain means that if Getty or Disney or Universal or Hearst newspapers use AI to generate works – then anyone else can take those works, copy them, sell them, or give them away for free. And the only thing those companies hate more than paying creative workers, is having other people take their stuff without permission.
The US Copyright Office's position means that the only way these companies can get a copyright is to pay humans to do creative work. This is a recipe for centaurhood. If you're a visual artist or writer who uses prompts to come up with ideas or variations, that's no problem, because the ultimate work comes from you. And if you're a video editor who uses deepfakes to change the eyelines of 200 extras in a crowd-scene, then sure, those eyeballs are in the public domain, but the movie stays copyrighted.
But creative workers don't have to rely on the US government to rescue us from AI predators. We can do it ourselves, the way the writers did in their historic writers' strike. The writers brought the studios to their knees. They did it because they are organized and solidaristic, but also are allowed to do something that virtually no other workers are allowed to do: they can engage in "sectoral bargaining," whereby all the workers in a sector can negotiate a contract with every employer in the sector.
That's been illegal for most workers since the late 1940s, when the Taft-Hartley Act outlawed it. If we are gonna campaign to get a new law passed in hopes of making more money and having more control over our labor, we should campaign to restore sectoral bargaining, not to expand copyright.
Our allies in a campaign to expand copyright are our bosses, who have never had our best interests at heart. While our allies in the fight for sector bargaining are every worker in the country. As the song goes, "Which side are you on?"
OK, I need to bring this talk in for a landing now, because I'm out of time, so I'm going to close out with this: AI is a bubble and bubbles are terrible.
Bubbles transfer the life's savings of normal people who are just trying to have a dignified retirement to the wealthiest and most unethical people in our society, and every bubble eventually bursts, taking their savings with it.
But not every bubble is created equal. Some bubbles leave behind something productive. Worldcom stole billions from everyday people by defrauding them about orders for fiber optic cables. The CEO went to prison and died there. But the fiber outlived him. It's still in the ground. At my home, I've got 2gb symmetrical fiber, because AT&T lit up some of that old Worldcom dark fiber.
All things being equal, it would have been better if Worldcom hadn't ever existed, but the only thing worse than Worldcom committing all that ghastly fraud would be if there was nothing to salvage from the wreckage.
I don't think we'll salvage much from cryptocurrency, for example. Sure, there'll be a few coders who've learned something about secure programming in Rust. But when crypto dies, what it will leave behind is bad Austrian economics and worse monkey JPEGs.
AI is a bubble and it will burst. Most of the companies will fail. Most of the data-centers will be shuttered or sold for parts. So what will be left behind?
We'll have a bunch of coders who are really good at applied statistics. We'll have a lot of cheap GPUs, which'll be good news for, say, effects artists and climate scientists, who'll be able to buy that critical hardware at pennies on the dollar. And we'll have the open source models that run on commodity hardware, AI tools that can do a lot of useful stuff, like transcribing audio and video, describing images, summarizing documents, automating a lot of labor-intensive graphic editing, like removing backgrounds, or airbrushing passersby out of photos. These will run on our laptops and phones, and open source hackers will find ways to push them to do things their makers never dreamt of.
If there had never been an AI bubble, if all this stuff arose merely because computer scientists and product managers noodled around for a few years coming up with cool new apps for back-propagation, machine learning and generative adversarial networks, most people would have been pleasantly surprised with these interesting new things their computers could do. We'd call them "plugins."
It's the bubble that sucks, not these applications. The bubble doesn't want cheap useful things. It wants expensive, "disruptive" things: Big foundation models that lose billions of dollars every year.
When the AI investment mania halts, most of those models are going to disappear, because it just won't be economical to keep the data-centers running. As Stein's Law has it: "Anything that can't go on forever eventually stops."
The collapse of the AI bubble is going to be ugly. Seven AI companies currently account for more than a third of the stock market, and they endlessly pass around the same $100b IOU.
Bosses are mass-firing productive workers and replacing them with janky AI, and when the janky AI is gone, no one will be able to find and re-hire most of those workers, we're going to go from dysfunctional AI systems to nothing.
AI is the asbestos in the walls of our technological society, stuffed there with wild abandon by a finance sector and tech monopolists run amok. We will be excavating it for a generation or more.
So we need to get rid of this bubble. Pop it, as quickly as we can. To do that, we have to focus on the material factors driving the bubble. The bubble isn't being driven by deepfake porn, or election disinformation, or AI image-gen, or slop advertising.
All that stuff is terrible and harmful, but it's not driving investment. The total dollar figure represented by these apps doesn't come close to making a dent in the capital expenditures and operating costs of AI. They are peripheral, residual uses: flashy, but unimportant to the bubble.
Get rid of all those uses and you reduce the expected income of AI companies by a sum so small it rounds to zero.
Same goes for all that "AI Safety" nonsense, that purports to concern itself with preventing an AI from attaining sentience and turning us all into paperclips. First of all, this is facially absurd. Throwing more words and GPUs into the word-guessing program won't make it sentient. That's like saying, "Well, we keep breeding these horses to run faster and faster, so it's only a matter of time until one of our mares gives birth to a locomotive." A human mind is not a word-guessing program with a lot of extra words.
I'm here for science fiction thought experiments, don't get me wrong. But also, don't mistake sf for prophesy. SF stories about superintelligence are futuristic parables, not business plans, roadmaps, or predictions.
The AI Safety people say they are worried that AI is going to end the world, but AI bosses love these weirdos. Because on the one hand, if AI is powerful enough to destroy the world, think of how much money it can make! And on the other hand, no AI business plan has a line on its revenue projections spreadsheet labeled "Income from turning the human race into paperclips." So even if we ban AI companies from doing this, we won't cost them a dime in investment capital.
To pop the bubble, we have to hammer on the forces that created the bubble: the myth that AI can do your job, especially if you get high wages that your boss can claw back; the understanding that growth companies need a succession of ever-more-outlandish bubbles to stay alive; the fact that workers and the public they serve are on one side of this fight, and bosses and their investors are on the other side.
Because the AI bubble really is very bad news, it's worth fighting seriously, and a serious fight against AI strikes at its roots: the material factors fueling the hundreds of billions in wasted capital that are being spent to put us all on the breadline and fill all our walls with high-tech asbestos.
© Cory Doctorow CC BY 3.0 https://creativecommons.org/licenses/by/4.0/
source: https://pluralistic.net/2025/12/05/pop-that-bubble/#u-washington
Last night, I gave a speech for the University of Washington's "Neuroscience, AI and Society" lecture series, through the university's Computational Neuroscience Center. It was called "The Reverse Centaur’s Guide to Criticizing AI," and it's based on the manuscript for my next book, "The Reverse Centaur’s Guide to Life After AI," which will be out from Farrar, Straus and Giroux next June:
https://www.eventbrite.com/e/future-tense-neuroscience-ai-and-society-with-cory-doctorow-tickets-1735371255139
The talk was sold out, but here's the text of my lecture. I'm very grateful to UW for the opportunity, and for a lovely visit to Seattle!
==
I'm a science fiction writer, which means that my job is to make up futuristic parables about our current techno-social arrangements to interrogate not just what a gadget does, but who it does it for, and who it does it to.
What I don't do is predict the future. No one can predict the future, which is a good thing, since if the future were predictable, that would mean that what we all do couldn't change it. It would mean that the future was arriving on fixed rails and couldn't be steered.
Jesus Christ, what a miserable proposition!
Now, not everyone understands the distinction. They think sf writers are oracles, soothsayers. Unfortunately, even some of my colleagues labor under the delusion that they can "see the future."
But for every sf writer who deludes themselves into thinking that they are writing the future, there are a hundred sf fans who believe that they are reading the future, and a depressing number of those people appear to have become AI bros. The fact that these guys can't shut up about the day that their spicy autocomplete machine will wake up and turn us all into paperclips has led many confused journalists and conference organizers to try to get me to comment on the future of AI.
That's a thing I strenuously resisted doing, because I wasted two years of my life explaining patiently and repeatedly why I thought crypto was stupid, and getting relentless bollocked by cryptocurrency cultists who at first insisted that I just didn't understand crypto. And then, when I made it clear that I did understand crypto, insisted that I must be a paid shill.
This is literally what happens when you argue with Scientologists, and life is Just. Too. Short.
So I didn't want to get lured into another one of those quagmires, because on the one hand, I just don't think AI is that important of a technology, and on the other hand, I have very nuanced and complicated views about what's wrong, and not wrong, about AI, and it takes a long time to explain that stuff.
But people wouldn't stop asking, so I did what I always do. I wrote a book.
Over the summer I wrote a book about what I think about AI, which is really about what I think about AI criticism, and more specifically, how to be a good AI critic. By which I mean: "How to be a critic whose criticism inflicts maximum damage on the parts of AI that are doing the most harm." I titled the book The Reverse Centaur's Guide to Life After AI, and Farrar, Straus and Giroux will publish it in June, 2026.
But you don't have to wait until then because I am going to break down the entire book's thesis for you tonight, over the next 40 minutes. I am going to talk fast.
#
Start with what a reverse centaur is. In automation theory, a "centaur" is a person who is assisted by a machine. You're a human head being carried around on a tireless robot body. Driving a car makes you a centaur, and so does using autocomplete.
And obviously, a reverse centaur is a machine head on a human body, a person who is serving as a squishy meat appendage for an uncaring machine.
Like an Amazon delivery driver, who sits in a cabin surrounded by AI cameras, that monitor the driver's eyes and take points off if the driver looks in a proscribed direction, and monitors the driver's mouth because singing isn't allowed on the job, and rats the driver out to the boss if they don't make quota.
The driver is in that van because the van can't drive itself and can't get a parcel from the curb to your porch. The driver is a peripheral for a van, and the van drives the driver, at superhuman speed, demanding superhuman endurance. But the driver is human, so the van doesn't just use the driver. The van uses the driver up.
Obviously, it's nice to be a centaur, and it's horrible to be a reverse centaur. There are lots of AI tools that are potentially very centaur-like, but my thesis is that these tools are created and funded for the express purpose of creating reverse-centaurs, which is something none of us want to be.
But like I said, the job of an sf writer is to do more than think about what the gadget does, and drill down on who the gadget does it for and who the gadget does it to. Tech bosses want us to believe that there is only one way a technology can be used. Mark Zuckerberg wants you to think that it's technologically impossible to have a conversation with a friend without him listening in. Tim Cook wants you to think that it's technologically impossible for you to have a reliable computing experience unless he gets a veto over which software you install and without him taking 30 cents out of every dollar you spend. Sundar Pichai wants you think that it's impossible for you to find a webpage unless he gets to spy on you from asshole to appetite.
This is all a kind of vulgar Thatcherism. Margaret Thatcher's mantra was "There is no alternative." She repeated this so often they called her "TINA" Thatcher: There. Is. No. Alternative. TINA.
"There is no alternative" is a cheap rhetorical slight. It's a demand dressed up as an observation. "There is no alternative" means "STOP TRYING TO THINK OF AN ALTERNATIVE." Which, you know, fuck that.
I'm an sf writer, my job is to think of a dozen alternatives before breakfast.
So let me explain what I think is going on here with this AI bubble, and sort out the bullshit from the material reality, and explain how I think we could and should all be better AI critics.
#
Start with monopolies: tech companies are gigantic and they don't compete, they just take over whole sectors, either on their own or in cartels.
Google and Meta control the ad market. Google and Apple control the mobile market, and Google pays Apple more than $20 billion/year not to make a competing search engine, and of course, Google has a 90% Search market-share.
Now, you'd think that this was good news for the tech companies, owning their whole sector.
But it's actually a crisis. You see, when a company is growing, it is a "growth stock," and investors really like growth stocks. When you buy a share in a growth stock, you're making a bet that it will continue to grow. So growth stocks trade at a huge multiple of their earnings. This is called the "price to earnings ratio" or "P/E ratio."
But once a company stops growing, it is a "mature" stock, and it trades at a much lower P/E ratio. So for every dollar that Target – a mature company – brings in, it is worth ten dollars. It has a P/E ratio of 10, while Amazon has a P/E ratio of 36, which means that for every dollar Amazon brings in, the market values it at $36.
It's wonderful to run a company that's got a growth stock. Your shares are as good as money. If you want to buy another company, or hire a key worker, you can offer stock instead of cash. And stock is very easy for companies to get, because shares are manufactured right there on the premises, all you have to do is type some zeroes into a spreadsheet, while dollars are much harder to come by. A company can only get dollars from customers or creditors.
So when Amazon bids against Target for a key acquisition, or a key hire, Amazon can bid with shares they make by typing zeroes into a spreadsheet, and Target can only bid with dollars they get from selling stuff to us, or taking out loans, which is why Amazon generally wins those bidding wars.
That's the upside of having a growth stock. But here's the downside: eventually a company has to stop growing. Like, say you get a 90% market share in your sector, how are you gonna grow?
Once the market decides that you aren't a growth stock, once you become mature, your stock is revalued, to a P/E ratio befitting a mature stock.
If you are an exec at a dominant company with a growth stock, you have to live in constant fear that the market will decide that you're not likely to grow any further. Think of what happened to Facebook in the first quarter of 2022. They told investors that they experienced slightly slower growth in the USA than they had anticipated, and investors panicked. They staged a one-day, $240B sell off. A quarter-trillion dollars in 24 hours! At the time, it was the largest, most precipitous drop in corporate valuation in human history.
That's a monopolist's worst nightmare, because once you're presiding over a "mature" firm, the key employees you've been compensating with stock, experience a precipitous pay-drop and bolt for the exits, so you lose the people who might help you grow again, and you can only hire their replacements with dollars. With dollars, not shares.
And the same goes for acquiring companies that might help you grow, because they, too, are going to expect money, not stock. This is the paradox of the growth stock. While you are growing to domination, the market loves you, but once you achieve dominance, the market lops 75% or more off your value in a single stroke if they don't trust your pricing power.
Which is why growth stock companies are always desperately pumping up one bubble or another, spending billions to hype the pivot to video, or cryptocurrency, or NFTs, or Metaverse, or AI.
I'm not saying that tech bosses are making bets they don't plan on winning. But I am saying that winning the bet – creating a viable metaverse – is the secondary goal. The primary goal is to keep the market convinced that your company will continue to grow, and to remain convinced until the next bubble comes along.
So this is why they're hyping AI: the material basis for the hundreds of billions in AI investment.
#
Now I want to talk about how they're selling AI. The growth narrative of AI is that AI will disrupt labor markets. I use "disrupt" here in its most disreputable, tech bro sense.
The promise of AI – the promise AI companies make to investors – is that there will be AIs that can do your job, and when your boss fires you and replaces you with AI, he will keep half of your salary for himself, and give the other half to the AI company.
That's it.
That's the $13T growth story that MorganStanley is telling. It's why big investors and institutionals are giving AI companies hundreds of billions of dollars. And because they are piling in, normies are also getting sucked in, risking their retirement savings and their family's financial security.
Now, if AI could do your job, this would still be a problem. We'd have to figure out what to do with all these technologically unemployed people.
But AI can't do your job. It can help you do your job, but that doesn't mean it's going to save anyone money. Take radiology: there's some evidence that AIs can sometimes identify solid-mass tumors that some radiologists miss, and look, I've got cancer. Thankfully, it's very treatable, but I've got an interest in radiology being as reliable and accurate as possible.
If my Kaiser hospital bought some AI radiology tools and told its radiologists: "Hey folks, here's the deal. Today, you're processing about 100 x-rays per day. From now on, we're going to get an instantaneous second opinion from the AI, and if the AI thinks you've missed a tumor, we want you to go back and have another look, even if that means you're only processing 98 x-rays per day. That's fine, we just care about finding all those tumors."
If that's what they said, I'd be delighted. But no one is investing hundreds of billions in AI companies because they think AI will make radiology more expensive, not even if that also makes radiology more accurate. The market's bet on AI is that an AI salesman will visit the CEO of Kaiser and make this pitch: "Look, you fire 9/10s of your radiologists, saving $20m/year, you give us $10m/year, and you net $10m/year, and the remaining radiologists' job will be to oversee the diagnoses the AI makes at superhuman speed, and somehow remain vigilant as they do so, despite the fact that the AI is usually right, except when it's catastrophically wrong.
"And if the AI misses a tumor, this will be the human radiologist's fault, because they are the 'human in the loop.' It's their signature on the diagnosis."
This is a reverse centaur, and it's a specific kind of reverse-centaur: it's what Dan Davies calls an "accountability sink." The radiologist's job isn't really to oversee the AI's work, it's to take the blame for the AI's mistakes.
This is another key to understanding – and thus deflating – the AI bubble. The AI can't do your job, but an AI salesman can convince your boss to fire you and replace you with an AI that can't do your job. This is key because it helps us build the kinds of coalitions that will be successful in the fight against the AI bubble.
If you're someone who's worried about cancer, and you're being told that the price of making radiology too cheap to meter, is that we're going to have to re-home America's 32,000 radiologists, with the trade-off that no one will ever be denied radiology services again, you might say, "Well, OK, I'm sorry for those radiologists, and I fully support getting them job training or UBI or whatever. But the point of radiology is to fight cancer, not to pay radiologists, so I know what side I'm on."
AI hucksters and their customers in the C-suites want the public on their side. They want to forge a class alliance between AI deployers and the people who enjoy the fruits of the reverse centaurs' labor. They want us to think of ourselves as enemies to the workers.
Now, some people will be on the workers' side because of politics or aesthetics. They just like workers better than their bosses. But if you want to win over all the people who benefit from your labor, you need to understand and stress how the products of the AI will be substandard. That they are going to get charged more for worse things. That they have a shared material interest with you.
Will those products be substandard? There's every reason to think so. Earlier, I alluded to "automation blindness, "the physical impossibility of remaining vigilant for things that rarely occur. This is why TSA agents are incredibly good at spotting water bottles. Because they get a ton of practice at this, all day, every day. And why they fail to spot the guns and bombs that government red teams smuggle through checkpoints to see how well they work, because they just don't have any practice at that. Because, to a first approximation, no one deliberately brings a gun or a bomb through a TSA checkpoint.
Automation blindness is the Achilles' heel of "humans in the loop."
Think of AI software generation: there are plenty of coders who love using AI, and almost without exception, they are senior, experienced coders, who get to decide how they will use these tools. For example, you might ask the AI to generate a set of CSS files to faithfully render a web-page across multiple versions of multiple browsers. This is a notoriously fiddly thing to do, and it's pretty easy to verify if the code works – just eyeball it in a bunch of browsers. Or maybe the coder has a single data file they need to import and they don't want to write a whole utility to convert it.
Tasks like these can genuinely make coders more efficient and give them more time to do the fun part of coding, namely, solving really gnarly, abstract puzzles. But when you listen to business leaders talk about their AI plans for coders, it's clear they're not looking to make some centaurs.
They want to fire a lot of tech workers – they've fired 500,000 over the past three years – and make the rest pick up their work with coding, which is only possible if you let the AI do all the gnarly, creative problem solving, and then you do the most boring, soul-crushing part of the job: reviewing the AIs' code.
And because AI is just a word guessing program, because all it does is calculate the most probable word to go next, the errors it makes are especially subtle and hard to spot, because these bugs are literally statistically indistinguishable from working code (except that they're bugs).
Here's an example: code libraries are standard utilities that programmers can incorporate into their apps, so they don't have to do a bunch of repetitive programming. Like, if you want to process some text, you'll use a standard library. If it's an HTML file, that library might be called something like lib.html.text.parsing; and if it's a DOCX file, it'll be lib.docx.text.parsing. But reality is messy, humans are inattentive and stuff goes wrong, so sometimes, there's another library, this one for parsing PDFs, and instead of being called lib.pdf.text.parsing, it's called lib.text.pdf.parsing.
Now, because the AI is a statistical inference engine, because all it can do is predict what word will come next based on all the words that have been typed in the past, it will "hallucinate" a library called lib.pdf.text.parsing. And the thing is, malicious hackers know that the AI will make this error, so they will go out and create a library with the predictable, hallucinated name, and that library will get automatically sucked into your program, and it will do things like steal user data or try and penetrate other computers on the same network.
And you, the human in the loop – the reverse centaur – you have to spot this subtle, hard to find error, this bug that is literally statistically indistinguishable from correct code. Now, maybe a senior coder could catch this, because they've been around the block a few times, and they know about this tripwire.
But guess who tech bosses want to preferentially fire and replace with AI? Senior coders. Those mouthy, entitled, extremely highly paid workers, who don't think of themselves as workers. Who see themselves as founders in waiting, peers of the company's top management. The kind of coder who'd lead a walkout over the company building drone-targeting systems for the Pentagon, which cost Google ten billion dollars in 2018.
For AI to be valuable, it has to replace high-wage workers, and those are precisely the experienced workers, with process knowledge, and hard won intuition, who might spot some of those statistically camouflaged AI errors.
Like I said, the point here is to replace high-waged workers.
And one of the reasons the AI companies are so anxious to fire coders is that coders are the princes of labor. They're the most consistently privileged, sought-after, and well-compensated workers in the labor force.
If you can replace coders with AI, who cant you replace with AI? Firing coders is an ad for AI.
Which brings me to AI art. AI art – or "art" – is also an ad for AI, but it's not part of AI's business model.
Let me explain: on average, illustrators don't make any money. They are already one of the most immiserated, precarized groups of workers out there. They suffer from a pathology called "vocational awe." That's a term coined by the librarian Fobazi Ettarh, and it refers to workers who are vulnerable to workplace exploitation because they actually care about their jobs – nurses, librarians, teachers, and artists.
If AI image generators put every illustrator working today out of a job, the resulting wage-bill savings would be undetectable as a proportion of all the costs associated with training and operating image-generators. The total wage bill for commercial illustrators is less than the kombucha bill for the company cafeteria at just one of Open AI's campuses.
The purpose of AI art – and the story of AI art as a death-knell for artists – is to convince the broad public that AI is amazing and will do amazing things. It's to create buzz. Which is not to say that it's not disgusting that former OpenAI CTO Mira Murati told a conference audience that "some creative jobs shouldn't have been there in the first place," and that it's not especially disgusting that she and her colleagues boast about using the work of artists to ruin those artists' livelihoods.
It's supposed to be disgusting. It's supposed to get artists to run around and say, "The AI can do my job, and it's going to steal my job, and isn't that terrible?"
Because the customers for AI – corporate bosses – don't see AI taking workers' jobs as terrible. They see it as wonderful.
But can AI do an illustrator's job? Or any artist's job?
Let's think about that for a second. I've been a working artist since I was 17 years old, when I sold my first short story, and I've given it a lot of thought, and here's what I think art is: it starts with an artist, who has some vast, complex, numinous, irreducible feeling in their mind. And the artist infuses that feeling into some artistic medium. They make a song, or a poem, or a painting, or a drawing, or a dance, or a book, or a photograph. And the idea is, when you experience this work, a facsimile of the big, numinous, irreducible feeling will materialize in your mind.
Now that I've defined art, we have to go on a little detour.
I have a friend who's a law professor, and before the rise of chatbots, law students knew better than to ask for reference letters from their profs, unless they were a really good student. Because those letters were a pain in the ass to write. So if you advertised for a postdoc and you heard from a candidate with a reference letter from a respected prof, the mere existence of that letter told you that the prof really thought highly of that student.
But then we got chatbots, and everyone knows that you generate a reference letter by feeding three bullet points to an LLM, and it'll barf up five paragraphs of florid nonsense about the student.
So when my friend advertises for a postdoc, they are flooded with reference letters, and they deal with this flood by feeding all these letters to another chatbot, and ask it to reduce them back to three bullet points. Now, obviously, they won't be the same bullet-points, which makes this whole thing terrible.
But just as obviously, nothing in that five-paragraph letter except the original three bullet points are relevant to the student. The chatbot doesn't know the student. It doesn't know anything about them. It cannot add a single true or useful statement about the student to the letter.
What does this have to do with AI art? Art is a transfer of a big, numinous, irreducible feeling from an artist to someone else. But the image-gen program doesn't know anything about your big, numinous, irreducible feeling. The only thing it knows is whatever you put into your prompt, and those few sentences are diluted across a million pixels or a hundred thousand words, so that the average communicative density of the resulting work is indistinguishable from zero.
It's possible to infuse more communicative intent into a work: writing more detailed prompts, or doing the selective work of choosing from among many variants, or directly tinkering with the AI image after the fact, with a paintbrush or Photoshop or The Gimp. And if there will ever be a piece of AI art that is good art – as opposed to merely striking, or interesting, or an example of good draftsmanship – it will be thanks to those additional infusions of creative intent by a human.
And in the meantime, it's bad art. It's bad art in the sense of being "eerie," the word Mark Fisher uses to describe "when there is something present where there should be nothing, or there is nothing present when there should be something."
AI art is eerie because it seems like there is an intender and an intention behind every word and every pixel, because we have a lifetime of experience that tells us that paintings have painters, and writing has writers. But it's missing something. It has nothing to say, or whatever it has to say is so diluted that it's undetectable.
The images were striking before we figured out the trick, but now they're just like the images we imagine in clouds or piles of leaves. We're the ones drawing a frame around part of the scene, we're the ones focusing on some contours and ignoring the others. We're looking at an inkblot, and it's not telling us anything.
Sometimes that can be visually arresting, and to the extent that it amuses people in a community of prompters and viewers, that's harmless.
I know someone who plays a weekly Dungeons and Dragons game over Zoom. It's transcribed by an open source model running locally on the dungeon master's computer, which summarizes the night's session and prompts an image generator to create illustrations of key moments. These summaries and images are hilarious because they're full of errors. It's a bit of harmless fun, and it bring a small amount of additional pleasure to a small group of people. No one is going to fire an illustrator because D&D players are image-genning funny illustrations where seven-fingered paladins wrestle with orcs that have an extra hand.
But bosses have and will fire illustrators, because they fantasize about being able to dispense with creative professionals and just prompt an AI. Because even though the AI can't do the illustrator's job, an AI salesman can convince the illustrator's boss to fire them and replace them with an AI that can't do their job.
This is a disgusting and terrible juncture, and we should not simply shrug our shoulders and accept Thatcherism's fatalism: "There is no alternative."
So what is the alternative? A lot of artists and their allies think they have an answer: they say we should extend copyright to cover the activities associated with training a model.
And I'm here to tell you they are wrong: wrong because this would inflict terrible collateral damage on socially beneficial activities, and it would represent a massive expansion of copyright over activities that are currently permitted – for good reason!.
Let's break down the steps in AI training.
First, you scrape a bunch of web-pages. This is unambiguously legal under present copyright law. You do not need a license to make a transient copy of a copyrighted work in order to analyze it, otherwise search engines would be illegal. Ban scraping and Google will be the last search engine we ever get, the Internet Archive will go out of business, that guy in Austria who scraped all the grocery store sites and proved that the big chains were colluding to rig prices would be in deep trouble.
Next, you perform analysis on those works. Basically, you count stuff on them: count pixels and their colors and proximity to other pixels; or count words. This is obviously not something you need a license for. It's just not illegal to count the elements of a copyrighted work. And we really don't want it to be, not if you're interested in scholarship of any kind.
And it's important to note that counting things is legal, even if you're working from an illegally obtained copy. Like, if you go to the flea market, and you buy a bootleg music CD, and you take it home and you make a list of all the adverbs in the lyrics, and you publish that list, you are not infringing copyright by doing so.
Perhaps you've infringed copyright by getting the pirated CD, but not by counting the lyrics.
This is why Anthropic offered a $1.5b settlement for training its models based on a ton of books it downloaded from a pirate site: not because counting the words in the books infringes anyone's rights, but because they were worried that they were going to get hit with $150k/book statutory damages for downloading the files.
OK, after you count all the pixels or the words, it's time for the final step: publishing them. Because that's what a model is: a literary work (that is, a piece of software) that embodies a bunch of facts about a bunch of other works, word and pixel distribution information, encoded in a multidimensional array.
And again, copyright absolutely does not prohibit you from publishing facts about copyrighted works. And again, no one should want to live in a world where someone else gets to decide which truthful, factual statements you can publish.
But hey, maybe you think this is all sophistry. Maybe you think I'm full of shit. That's fine. It wouldn't be the first time someone thought that.
After all, even if I'm right about how copyright works now, there's no reason we couldn't change copyright to ban training activities, and maybe there's even a clever way to wordsmith the law so that it only catches bad things we don't like, and not all the good stuff that comes from scraping, analyzing and publishing.
Well, even then, you're not gonna help out creators by creating this new copyright. If you're thinking that you can, you need to grapple with this fact: we have monotonically expanded copyright since 1976, so that today, copyright covers more kinds of works, grants exclusive rights over more uses, and lasts longer.
And today, the media industry is larger and more profitable than it has ever been, and also: the share of media industry income that goes to creative workers is lower than its ever been, both in real terms, and as a proportion of those incredible gains made by creators' bosses at the media company.
So how it is that we have given all these new rights to creators, and those new rights have generated untold billions, and left creators poorer? It's because in a creative market dominated by five publishers, four studios, three labels, two mobile app stores, and a single company that controls all the ebooks and audiobooks, giving a creative worker extra rights to bargain with is like giving your bullied kid more lunch money.
It doesn't matter how much lunch money you give the kid, the bullies will take it all. Give that kid enough money and the bullies will hire an agency to run a global campaign proclaiming "think of the hungry kids! Give them more lunch money!"
Creative workers who cheer on lawsuits by the big studios and labels need to remember the first rule of class warfare: things that are good for your boss are rarely what's good for you.
The day Disney and Universal filed suit against Midjourney, I got a press release from the RIAA, which represents Disney and Universal through their recording arms. Universal is the largest label in the world. Together with Sony and Warner, they control 70% of all music recordings in copyright today.
It starts: "There is a clear path forward through partnerships that both further AI innovation and foster human artistry."
It ends: "This action by Disney and Universal represents a critical stand for human creativity and responsible innovation."
And it's signed by Mitch Glazier, CEO of the RIAA.
It's very likely that name doesn't mean anything to you. But let me tell you who Mitch Glazier is. Today, Mitch Glazier is the CEO if the RIAA, with an annual salary of $1.3m. But until 1999, Mitch Glazier was a key Congressional staffer, and in 1999, Glazier snuck an amendment into an unrelated bill, the Satellite Home Viewer Improvement Act, that killed musicians' right to take their recordings back from their labels.
This is a practice that had been especially important to "heritage acts" (which is a record industry euphemism for "old music recorded by Black people"), for whom this right represented the difference between making rent and ending up on the street.
When it became clear that Glazier had pulled this musician-impoverishing scam, there was so much public outcry, that Congress actually came back for a special session, just to vote again to cancel Glazier's amendment. And then Glazier was kicked out of his cushy Congressional job, whereupon the RIAA started paying him more than $1m/year to "represent the music industry."
This is the guy who signed that press release in my inbox. And his message was: The problem isn't that Midjourney wants to train a Gen AI model on copyrighted works, and then use that model to put artists on the breadline. The problem is that Midjourney didn't pay RIAA members Universal and Disney for permission to train a model. Because if only Midjourney had given Disney and Universal several million dollars for training rights to their catalogs, the companies would have happily allowed them to train to their heart's content, and they would have bought the resulting models, and fired as many creative professionals as they could.
I mean, have we already forgotten the Hollywood strikes? I sure haven't. I live in Burbank, home to Disney, Universal and Warner, and I was out on the line with my comrades from the Writers Guild, offering solidarity on behalf of my union, IATSE 830, The Animation Guild, where I'm a member of the writers' unit.
And I'll never forget when one writer turned to me and said, "You know, you prompt an LLM exactly the same way an exec gives shitty notes to a writers' room. You know: 'Make me ET, except it's about a dog, and put a love interest in there, and a car chase in the second act.' The difference is, you say that to a writers' room and they all make fun of you and call you a fucking idiot suit. But you say it to an LLM and it will cheerfully shit out a terrible script that conforms exactly to that spec (you know, Air Bud)."
These companies are desperate to use AI to displace workers. When Getty Images sues AI companies, it's not representing the interests of photographers. Getty hates paying photographers! Getty just wants to get paid for the training run, and they want the resulting AI model to have guardrails, so it will refuse to create images that compete with Getty's images for anyone except Getty. But Getty will absolutely use its models to bankrupt as many photographers as it possibly can.
A new copyright to train models won't get us a world where models aren't used to destroy artists, it'll just get us a world where the standard contracts of the handful of companies that control all creative labor markets are updated to require us to hand over those new training rights to those companies. Demanding a new copyright just makes you a useful idiot for your boss, a human shield they can brandish in policy fights, a tissue-thin pretense of "won't someone think of the hungry artists?"
When really what they're demanding is a world where 30% of the investment capital of the AI companies go into their shareholders' pockets. When an artist is being devoured by rapacious monopolies, does it matter how they divvy up the meal?
We need to protect artists from AI predation, not just create a new way for artists to be mad about their impoverishment.
And incredibly enough, there's a really simple way to do that. After 20+ years of being consistently wrong and terrible for artists' rights, the US Copyright Office has finally done something gloriously, wonderfully right. All through this AI bubble, the Copyright Office has maintained – correctly – that AI-generated works cannot be copyrighted, because copyright is exclusively for humans. That's why the "monkey selfie" is in the public domain. Copyright is only awarded to works of human creative expression that are fixed in a tangible medium.
And not only has the Copyright Office taken this position, they've defended it vigorously in court, repeatedly winning judgments to uphold this principle.
The fact that every AI created work is in the public domain means that if Getty or Disney or Universal or Hearst newspapers use AI to generate works – then anyone else can take those works, copy them, sell them, or give them away for free. And the only thing those companies hate more than paying creative workers, is having other people take their stuff without permission.
The US Copyright Office's position means that the only way these companies can get a copyright is to pay humans to do creative work. This is a recipe for centaurhood. If you're a visual artist or writer who uses prompts to come up with ideas or variations, that's no problem, because the ultimate work comes from you. And if you're a video editor who uses deepfakes to change the eyelines of 200 extras in a crowd-scene, then sure, those eyeballs are in the public domain, but the movie stays copyrighted.
But creative workers don't have to rely on the US government to rescue us from AI predators. We can do it ourselves, the way the writers did in their historic writers' strike. The writers brought the studios to their knees. They did it because they are organized and solidaristic, but also are allowed to do something that virtually no other workers are allowed to do: they can engage in "sectoral bargaining," whereby all the workers in a sector can negotiate a contract with every employer in the sector.
That's been illegal for most workers since the late 1940s, when the Taft-Hartley Act outlawed it. If we are gonna campaign to get a new law passed in hopes of making more money and having more control over our labor, we should campaign to restore sectoral bargaining, not to expand copyright.
Our allies in a campaign to expand copyright are our bosses, who have never had our best interests at heart. While our allies in the fight for sector bargaining are every worker in the country. As the song goes, "Which side are you on?"
OK, I need to bring this talk in for a landing now, because I'm out of time, so I'm going to close out with this: AI is a bubble and bubbles are terrible.
Bubbles transfer the life's savings of normal people who are just trying to have a dignified retirement to the wealthiest and most unethical people in our society, and every bubble eventually bursts, taking their savings with it.
But not every bubble is created equal. Some bubbles leave behind something productive. Worldcom stole billions from everyday people by defrauding them about orders for fiber optic cables. The CEO went to prison and died there. But the fiber outlived him. It's still in the ground. At my home, I've got 2gb symmetrical fiber, because AT&T lit up some of that old Worldcom dark fiber.
All things being equal, it would have been better if Worldcom hadn't ever existed, but the only thing worse than Worldcom committing all that ghastly fraud would be if there was nothing to salvage from the wreckage.
I don't think we'll salvage much from cryptocurrency, for example. Sure, there'll be a few coders who've learned something about secure programming in Rust. But when crypto dies, what it will leave behind is bad Austrian economics and worse monkey JPEGs.
AI is a bubble and it will burst. Most of the companies will fail. Most of the data-centers will be shuttered or sold for parts. So what will be left behind?
We'll have a bunch of coders who are really good at applied statistics. We'll have a lot of cheap GPUs, which'll be good news for, say, effects artists and climate scientists, who'll be able to buy that critical hardware at pennies on the dollar. And we'll have the open source models that run on commodity hardware, AI tools that can do a lot of useful stuff, like transcribing audio and video, describing images, summarizing documents, automating a lot of labor-intensive graphic editing, like removing backgrounds, or airbrushing passersby out of photos. These will run on our laptops and phones, and open source hackers will find ways to push them to do things their makers never dreamt of.
If there had never been an AI bubble, if all this stuff arose merely because computer scientists and product managers noodled around for a few years coming up with cool new apps for back-propagation, machine learning and generative adversarial networks, most people would have been pleasantly surprised with these interesting new things their computers could do. We'd call them "plugins."
It's the bubble that sucks, not these applications. The bubble doesn't want cheap useful things. It wants expensive, "disruptive" things: Big foundation models that lose billions of dollars every year.
When the AI investment mania halts, most of those models are going to disappear, because it just won't be economical to keep the data-centers running. As Stein's Law has it: "Anything that can't go on forever eventually stops."
The collapse of the AI bubble is going to be ugly. Seven AI companies currently account for more than a third of the stock market, and they endlessly pass around the same $100b IOU.
Bosses are mass-firing productive workers and replacing them with janky AI, and when the janky AI is gone, no one will be able to find and re-hire most of those workers, we're going to go from dysfunctional AI systems to nothing.
AI is the asbestos in the walls of our technological society, stuffed there with wild abandon by a finance sector and tech monopolists run amok. We will be excavating it for a generation or more.
So we need to get rid of this bubble. Pop it, as quickly as we can. To do that, we have to focus on the material factors driving the bubble. The bubble isn't being driven by deepfake porn, or election disinformation, or AI image-gen, or slop advertising.
All that stuff is terrible and harmful, but it's not driving investment. The total dollar figure represented by these apps doesn't come close to making a dent in the capital expenditures and operating costs of AI. They are peripheral, residual uses: flashy, but unimportant to the bubble.
Get rid of all those uses and you reduce the expected income of AI companies by a sum so small it rounds to zero.
Same goes for all that "AI Safety" nonsense, that purports to concern itself with preventing an AI from attaining sentience and turning us all into paperclips. First of all, this is facially absurd. Throwing more words and GPUs into the word-guessing program won't make it sentient. That's like saying, "Well, we keep breeding these horses to run faster and faster, so it's only a matter of time until one of our mares gives birth to a locomotive." A human mind is not a word-guessing program with a lot of extra words.
I'm here for science fiction thought experiments, don't get me wrong. But also, don't mistake sf for prophesy. SF stories about superintelligence are futuristic parables, not business plans, roadmaps, or predictions.
The AI Safety people say they are worried that AI is going to end the world, but AI bosses love these weirdos. Because on the one hand, if AI is powerful enough to destroy the world, think of how much money it can make! And on the other hand, no AI business plan has a line on its revenue projections spreadsheet labeled "Income from turning the human race into paperclips." So even if we ban AI companies from doing this, we won't cost them a dime in investment capital.
To pop the bubble, we have to hammer on the forces that created the bubble: the myth that AI can do your job, especially if you get high wages that your boss can claw back; the understanding that growth companies need a succession of ever-more-outlandish bubbles to stay alive; the fact that workers and the public they serve are on one side of this fight, and bosses and their investors are on the other side.
Because the AI bubble really is very bad news, it's worth fighting seriously, and a serious fight against AI strikes at its roots: the material factors fueling the hundreds of billions in wasted capital that are being spent to put us all on the breadline and fill all our walls with high-tech asbestos.
© Cory Doctorow CC BY 3.0 https://creativecommons.org/licenses/by/4.0/
The messy WordPress drama, explained - The Verge
Artikel ansehen
Zusammenfassung ansehen
source: https://www.theverge.com/2024/9/27/24256361/wordpress-wp-engine-drama-explained-matt-mullenweg
author:
The messy WordPress drama, explained - The Verge
Excerpt
It has caused quite a stir in the WordPress community.
WordPress is essentially internet infrastructure. It’s widely used, generally stable, and doesn’t tend to generate many splashy headlines as a result.
But over the last week, the WordPress community has swept up into a battle over the ethos of the platform. Last week, WordPress cofounder Matt Mullenweg came out with a harsh attack on WP Engine, a major WordPress hosting provider, calling the company a “cancer” to the community. The statement has cracked open a public debate surrounding how profit-driven companies can and can’t use open-source software — and if they’re obligated to contribute something to the projects they use in return.
The conflict has escalated in the days since with a barrage of legal threats and has left swaths of website operators caught in the crossfire of a conflict beyond their control. WP Engine customers were cut off from accessing WordPress.org’s servers, preventing them from easily updating or installing plugins and themes. And while they’ve been granted a temporary reprieve, WP Engine is now facing a deadline to resolve the conflict or have its customers’ access fall apart once again.
WP Engine is a third-party hosting company that uses the free, open-source WordPress software to create and sell its own prepackaged WordPress hosting service. Founded in 2010, WP Engine has grown to become a rival to WordPress.com, with more than 200,000 websites using the service to power their online presence.
“Silver Lake doesn’t give a dang about your open source ideals, it just wants return on capital.”
Mullenweg leads two different WordPresses. There’s WordPress.org, the open-source project that develops the backbone of the WordPress publishing platform, and then there’s WordPress.com, a company that sells a hosted version of the open-source WordPress software — just like WP Engine. Mullenweg runs Automattic, which owns WordPress.com. Data suggests that around 43 percent of all websites use WordPress, but it’s not clear how many are hosted by WordPress.com or another party.
Along with selling plans on WordPress.com, Automattic contributes a lot of development effort to the open source project, which itself relies on donations and community contributions to run. According to Mullenweg, the team contributes 3,988 hours per week. The company may not have to pay to use WordPress, but it certainly pays to develop and improve it.
WP Engine operates a bit differently. It says it focuses on investing in the community through sponsorships and encouraging the adoption of the platform. The hosting platform was acquired by the private equity firm Silver Lake in 2018, and Mullenweg views it as a business that profits off of open-source code without giving anything back.
That frustration came to a head last week when Mullenweg took the stage at WordCamp — a WP Engine-sponsored WordPress conference — and took direct aim at WP Engine. “The company is controlled by Silver Lake, a private equity firm with $102 million in assets under management,”
WordPress Co-Founder Matt Mullenweg's Spiciest WordCamp Talk Ever!
vonWordPressamYouTube. “Silver Lake doesn’t give a dang about your open source ideals — it just wants return on capital. So, it’s at this point I ask everyone in the WordPress community to go vote with your wallet. Who are you going to give your money to: someone who is going to nourish the ecosystem or someone who is going to frack every bit of value out of it until it withers?”
Mullenweg followed up this statement with a September 21st blog post, where he lambasted WP Engine for contributing just 40 hours per week to the WordPress.org open source project. “WP Engine is setting a poor standard that others may look at and think is ok to replicate. We must set a higher standard to ensure WordPress is here for the next 100 years,” Mullenweg wrote in the blog. He ripped into WP Engine even more, saying it’s “strip-mining the WordPress ecosystem” and giving users a “crappier experience so they can make more money.”
Mullenweg isn’t just defending the ethos of open source — he’s also defending his competing WordPress provider
Mullenweg doesn’t appear to be wrong about WP Engine’s contributions. But WP Engine is ultimately abiding by the rules of WordPress’ open-source license: it’s generally free to use, and WP Engine doesn’t have to give back to the WordPress community just because it’s banking off the open-source code. Of course, it’d be nice if WP Engine did, but nothing requires that it do so.
Complicating this further: Mullenweg isn’t just defending the ethos of open source — he’s also defending his competing WordPress provider. In his blog post, he claims WP Engine is “profiting off of the confusion” caused by the company’s branding. Mullenweg alleges that WP Engine is promising to give customers WordPress but that the company is actually offering a distilled version of the service. He goes on to say WP Engine will need a commercial license for the “unauthorized” use of the WordPress trademark, which is controlled by the WordPress Foundation and later sent a cease and desist letter in an attempt to make the company pay up.
WP Engine isn’t staying silent. It sent a cease and desist letter that tells a very different story of what has been going on behind the scenes. In its letter, WP Engine claims Automattic demanded a “very large sum of money” days before Mullenweg’s keynote at the September 20th WordCamp convention — and if the company didn’t receive it, Mullenweg allegedly threatened to carry out a “scorched earth nuclear approach” toward WP Engine.
WP Engine alleges Mullenweg harassed the company through text messages and calls, with one screenshotted text saying: “If I’m going to make the case to the WP community about why we’re banning WPE I need to do it in my talk tomorrow.” The texts, which Mullenweg confirmed he sent in
Matt Talks About WordPress Situation
vonThe PrimeTimeamYouTube, say he prepared several presentation slides for his WordCamp talk, with the working title “How Private Equity can Hollow out and Destroy Open Source Communities, a Story in 4 Parts.”
After WP Engine refused to pay WordPress, the company alleges Mullenweg followed through on his threats. “Mr. Mullenweg’s covert demand that WP Engine hand over tens of millions to his for-profit company Automattic, while publicly masquerading as an altruistic protector of the WordPress community, is disgraceful,” WP Engine’s letter states. “WP Engine will not accede to these unconscionable demands which not only harm WP Engine and its employees, but also threaten the entire WordPress community.”
WordPress.org has now made it clear that it’s going after WP Engine for not only failing to give back to the WordPress project but also for its alleged misuse of the WordPress trademark. Mullenweg now says Automattic has given WP Engine two ways to “pay their fair share”: either by paying a licensing fee or making contributions to the open source WordPress project. “This isn’t a money grab: it’s an expectation that any business making hundreds of millions of dollars off of an open source project ought to give back, and if they don’t, then they can’t use its trademarks,” Mullenweg said.
The WordPress Foundation — the charitable organization that backs the open source WordPress project — is led by Mullenweg and other lesser-known board members who aren’t displayed on its website. It seems the WordPress Foundation has made some tweaks to its trademark guidelines in recent days. As of September 19th, the policy said you are “free” to use the WP abbreviation in “any way you see fit.” But now WordPress has deleted that language, replacing it with a line that says not to use WP “in a way that confuses people. For example, many people think WP Engine is ‘WordPress Engine.’” The updated policy also explicitly states: “If you would like to use the WordPress trademark commercially, please contact Automattic, they have the exclusive license.”
WordPress.org banned WP Engine from accessing its servers free over their “legal claims and litigation” — a move that has made it more difficult for customers to use WP Engine. However, Mullenweg decided to temporarily remove the block just two days later. He’s given WP Engine until October 1st to create their own mirror or resolve the conflict. “Why should WordPress.org provide these services to WP Engine for free, given their attacks on us?” Mullenweg wrote. WP Engine says it only sent a cease and desist order to WordPress and has not yet filed a lawsuit.
When asked about the ban on WP Engine, Automattic spokesperson Megan Fox said in a statement to The Verge that “trademark violations have resulted in the company being blocked from some WordPress resources.” WP Engine pointed The Verge to its statements on X when reached for comment.
The fight has garnered a mix of reactions. On one side, people think WP Engine is in the wrong, with some saying the company should contribute more to the open source project and that its use of “WP” is misleading. On the other, some WordPress community members are calling on Mullenweg to step down and accuse of him abusing his power over WordPress.org and WordPress.com. Others believe the situation could result in a fork of WordPress and brought up concerns about whether WordPress will take action against other companies using the “WP” abbreviation or trademark.
But in a dispute that’s meant to clarify what is and isn’t WordPress, Mullenweg risks blurring the lines even more. WordPress.org and WordPress.com both have a point — but it looks an awful lot like they’re working together to make it.
Zweifellos war das Jahr 1945 der Höhepunkt im Leben von Vannevar Bush, in jedem Fall die Klimax dessen, was man sein „öffentliches Wirken“ nennen könnte. Im Juli erschien sein Report „Science – The Endless Frontier“, in dem die Notwendigkeit einer nationalen Forschungspolitik skizziert war, fast gleichzeitig der Aufsatz „As we may think“ im „Atlantic Monthly“.
Artikel ansehen
Zusammenfassung ansehen
created: 2024-03-20T11:23:04 (UTC +01:00)
tags: [Vannevar Bush,Robert Oppenheimer,Raytheon,ISIN_US7551115071,AT&T,ISIN_US00206R1023,Klimax]
source: https://www.faz.net/aktuell/feuilleton/computerweltschoepfer-vannevar-bush-der-heisse-krieger-14296603.html?printPagedArticle=true#pageIndex_2
author: F.A.Z.
Computerweltschöpfer Vannevar Bush: Der heiße Krieger
Excerpt
Vannevar Bush sah nicht nur Hyperlink und Desktop voraus. Im Denken des Militärstrategen verdichteten sich Atombombe und Computer zu einer tödlichen Einheit: dem militärisch-industriellen Komplex.
Zweifellos war das Jahr 1945 der Höhepunkt im Leben von Vannevar Bush, in jedem Fall die Klimax dessen, was man sein „öffentliches Wirken“ nennen könnte. Im Juli erschien sein Report „Science – The Endless Frontier“, in dem die Notwendigkeit einer nationalen Forschungspolitik skizziert war, fast gleichzeitig der Aufsatz „As we may think“ im „Atlantic Monthly“. Darin beschrieb Bush eine Memex genannte Apparatur, mit der ein Mensch, vor einem Bildschirm sitzend, sich durch eine gigantische Bibliothek hindurchbewegen, nein, mehr noch: mit der er seine Bewegung durch das Weltgehirn aufzeichnen und der Nachwelt hinterlassen kann. Mochte dies den Amerikanern noch wie Science-Fiction vorgekommen sein, brannte sich ihnen der Name des Verfassers kaum einen Monat später unauslöschlich ein. Denn im aufsteigenden Staubpilz über der Stadt Hiroshima löste sich ein, wofür Bush als wissenschaftlicher Koordinator des Manhattan Project jahrelang gearbeitet hatte, ohne das Wissen der Öffentlichkeit, ja selbst seiner eigenen Frau.
Was aber ist öffentliches Wirken, wenn es mit dem Gedächtnis an Hiroshima verschmilzt? Von Robert Oppenheimer, dem Vater der Atombombe, ist der Ausspruch überliefert: „Jetzt bin ich der Tod geworden, der Zerstörer der Welten.“ Von Vannevar Bush gibt es kein Reuebekenntnis. Im Gegenteil. Mit seiner schnarrenden Stimme, die grenzenlose Selbstgewissheit und Arroganz verriet, wurde er nicht müde, der Welt auch weiterhin Lehren zu erteilen. So mag es naheliegen, im „General der Physik“ (wie ihn die „Times“ tituliert hat) eine Art Dr. Seltsam der Technokratie zu sehen: den Mann, in dem sich die Bombe, der Computer, aber auch der militärisch-industrielle Komplex zu einer tödlichen Einheit verdichten.
„Wenn du ein Problem nicht lösen kannst, vergrößere es.“
Mag sein, dass der Krieg der Vater aller Dinge ist. Ebenso gut aber kann man die Zeugung des Computers als einen Kathedralenbau auffassen, eine gemeinschaftliche Aufgabe, die sich über Generationen erstreckt. In diesem Generationenprojekt kommt Vannevar Bush eine besondere Rolle zu, führt er doch jene Metempsychose vor, die aus dem Pionier des neunzehnten Jahrhunderts den Technokraten des zwanzigsten Jahrhunderts macht. Diese Geschichte beginnt mit der Auflösung des Raums, bei der das gelobte Land (die „Frontier“) nicht mehr im Wilden Westen, sondern in jenen geistigen Räumen verortet wird, die von der Radiophonie, dem Telefon und der Elektrizität aufgeschlossen werden.
1890 in Everett bei Boston geboren, als Sohn eines universalistischen Pastors und Freimaurers, kannte Vannevar Bush keine andere Grenze als den Himmel. So entwickelte das kränkliche Kind den Drang, die Welt mit neuartigen Gadgets zu beglücken. Da der Vater die Familienersparnisse für die Erziehung der beiden älteren Schwestern aufgebraucht hatte, war der aufgeweckte Knabe schon früh mit der Notwendigkeit konfrontiert, die Karriere in die eigenen Hände zu nehmen. Da sich die Mathematik unter seinen geschickten Händen stets in ein Gebrauchsding verwandelte, meldete der zweiundzwanzig Jahre alte Selfmademan ein Patent für ein Gerät zur Geländeprofilerfassung an. Nach Erfahrungen bei General Electrics und einer Beteiligung beim Radiopionier AMRAD gründete er im Alter von 32 Jahren eine Firma, die der Pfarrerssohn passenderweise göttlicher Strahl (Raytheon) taufte.
Vertrieb die Firma anfangs ein Zusatzgerät, mit dem batteriebetriebene Radios sehr viel kostengünstiger genutzt werden konnten, musste sie sich, mit wachsendem Erfolg, der Boykottversuche größerer Hersteller erwehren. Bush reagierte nach der Maxime: „Wenn du ein Problem nicht lösen kannst, vergrößere es.“ Folglich beschränkte sich die Firma nicht mehr auf die Lieferung eines Zubehörteils, sondern attackierte die Gegner dadurch, dass sie selbst eines der ersten Transistorradios entwickelte.
Bahnbrechende Projekte im Mantel der Arroganz
Die frühe finanzielle Unabhängigkeit verstärkte Bushs ohnehin höchst ausgeprägte Arroganz. Denn nun sah er gar keinen Grund mehr, seine höchst abschätzigen Meinungen über andere Menschen hinter freundlichen Floskeln zu verbergen. Das Einzige, was ihm imponierte, war die bessere Lösung, eine Haltung, die sich später zur Überzeugung auswachsen sollte, gleichsam einer natürlichen Geistesaristokratie anzugehören. Da Bushs finanzielle Sorgen gelöst waren, zeigte sich, dass seine intellektuelle Neugierde noch größer war als das pekuniäre Interesse. So begann er seit 1927 an einem analogen Computer zu arbeiten, dessen Aufgabe in der Lösung von Differentialgleichungen bestand. Wie jede seiner Erfindungen antwortete auch dies auf eine Notwendigkeit. Denn baut man eine Brücke und möchte wissen, wie sich die Stahlkonstruktion bei bestimmten Windbedingungen verhält, muss man Differentialgleichungen lösen – was ohne Hilfsmittel eine extrem zeitaufwendige Aufgabe ist. Da Bushs Arbeiten von Erfolg gekrönt waren, wurde er zum weltweit führenden Pionier der analogen Computer. Die Maschine, die er im Jahr 1931 entwarf, hatte monströse Ausmaße. Sie wog 100 Tonnen, bestand aus 2000 elektrischen Röhren, 150 Motoren und 200 Meilen elektrischem Draht.
Mit der Ernennung Bushs zum Dekan der Ingenieurwissenschaften am Massachusetts Institute of Technology verlagerte sich sein Tätigkeitsfeld von persönlichen zu gemeinschaftlichen Projekten. Seiner gefürchteten Arroganz und seiner No-Bullshit-Attitüde zum Trotz, war er seinen Studenten ein großartiger Helfer: ein geduldiger Beobachter, der fähig war, eine Sache auf ihren Kern hin zu durchleuchten. So wurden unter seiner Ägide bahnbrechende Projekte befördert, von der aufkommenden Radartechnik, kryptologischen Maschinen, bis hin zu ersten Solarkollektoren. Aus der Perspektive des Wissenschaftsmanagers stand ihm, als er Mitte der dreißiger Jahre mit der Miniaturfotografie (den sogenannten „Mikrofiches“) in Berührung kam, sogleich jene kommunikative Apparatur vor Augen, die sich in seiner Phantasie zu einer Weltintelligenz, dem Memex-Apparat, auswachsen sollte.
Die Idee des Arbeits- und Bildungsspeichers
Gleichwohl blieb es nicht bei der Vision. 1937 entstand mit dem „Rapid Selector“ ein Prototyp, der es ermöglichte, in einer Mikrofilmbibliothek die gesuchte Information aufzufinden. Wichtiger aber war das intellektuelle Paradigma. Wenn das Weltwissen auf einem Schreibtisch abgelegt werden kann (zudem kopierbar ist), ist es nur logisch, dass man nicht nur das Suchen und Finden von Informationen, sondern auch die Art der Verknüpfung zum Gegenstand des Wissens macht. Folglich sind nicht nur die Dokumente, sondern auch die Pfade von Bedeutung, die von einem Gegenstand zum nächsten führen. Wenn diese Vorwegnahme des Hyperlinks noch in den achtziger und neunziger Jahren begeisterte Anhänger finden sollte, so deswegen, weil Vannevar Bushs Memex der Schrift ein Gedächtnis verleiht, ebenso wie es die Bibliothek zum Echo- und Erinnerungsraum ihrer Benutzung macht. In der Memex-Apparatur tritt die Wissenschaft als Kommunikationsraum hervor, der sich nicht im Gedächtnistheater und in der Performance erschöpft, sondern immer wieder neu erlebt werden kann: ein Arbeits- und Bildungsspeicher.
Freilich: der Stellenwert, den die Wissenschaften in Gesellschaft und Politik einnahmen, war mehr als beklagenswert. Mochte die Technikblindheit unter ökonomischen Gesichtspunkten schon beklagenswert genug sein, war sie vor dem Prospekt des nahenden Krieges nachgerade bedrohlich. Schon der Erste Weltkrieg hatte Bush gelehrt, „wie man auf keinen Fall einen Krieg führen solle“. Damals hatte der junge Mathematiker zusammen mit dem Physiker und späteren Nobelpreisträger Robert Milikan an einem Gerät zur Ortung deutscher U-Boote gearbeitet. Zwar war es ihm gelungen, ein lauffähiges Gerät zu entwickeln, dennoch war es nie zum Einsatz gekommen.
Aufstieg zum Zar der amerikanischen Militärtechnologie
Und warum? Weil der junge Entrepreneur nicht zu den Uniformträgern gehört und keine Regierungsgelder angenommen hatte. Trotz des nahenden Zweiten Weltkrieges hatte sich an der Ignoranz der Machthaber nichts verändert. Academia war ein friedliches Eiland - und die amerikanische Rüstungsindustrie, im Vergleich zum militärisch-industriell-akademischen Komplex NS-Deutschlands, hoffnungslos rückständig. Bush hingegen, der die technischen Entwicklungen im Feindesland zur Kenntnis nahm, war sich darüber im Klaren, dass nicht „Menschenmaterial“, sondern die Maschinen der Wissenschaft kriegsentscheidend sein würden. Und weil er seinen Platz nicht mehr an der Spitze einer Universität, sondern im Einsatz fürs Vaterland sah, kam es zu jener neuerlichen Metamorphose, bei der sich der Wissenschaftsmanager zum heißen Krieger, ja zur Gründungsfigur des militärisch-industriellen Komplexes wandelte.
1939 zum Präsidenten der Carnegie Institution of Washington gewählt, tauchte der Mann, der in seinem Leben kaum über Boston hinausgekommen war, nun in das Haifischbecken des Washingtoner Politikbetriebs ein. Als erste Maßnahme verwandelte Bush das Institut in eine schlagkräftige Batterie, die ausschließlich Hard-Science-Projekte unterstützte. Da er über beste Kontakte in die Wissenschaft, aber auch zu Großunternehmen wie AT&T oder Bell Labs verfügte, bereitete ihm dies keine Probleme. Weit schwieriger indes war es, eine provinziell denkende Politikerschar („langhaarige Idealisten und Gutmenschen“) davon zu überzeugen, den Kriegsschauplatz nicht auf dem Schlachtfeld, sondern in den Labors und den Köpfen höchst fragwürdiger Eggheads zu verorten. Dass es einem Zivilisten und politischen Nobody gelingen sollte, binnen kurzem zum „Zaren der amerikanischen Militärtechnologie“ aufzusteigen – einem Zaren, der über ein riesiges Forschungsbudget verfügte und von dem es hieß, er „könne den Krieg gewinnen oder verlieren“ –, war eigentlich ein Ding der Unmöglichkeit. Dennoch dauerte es keine zwei Jahre, bis Bush auch Washington für sich erobert hatte.
Die Geburt des militärisch-industriellen Komplex
Dass ihm dies gelang, war Resultat eines persönlichen Blitzkrieges. Anstatt sich mit zweitklassigen Apparatschiks aufzuhalten, kam es, über die Vermittlung von Frederic Delano, dem Onkel von Theodore Roosevelt, zu einem 15-Minuten-Gespräch mit dem Präsidenten. Dabei legte Bush den Plan einer nationalen Forschungsagentur vor. Roosevelt, der seine Besorgnis über die militärische Rückständigkeit der Vereinigten Staaten teilte, bejahte seinen Plan auf einer Serviette: „OK FDR“. Damit war Vannevar Bush zum Leiter des Office of Research and Development befördert, einer Ein-Mann-Armee, die dem Präsidenten direkt unterstellt und keiner weiteren Behörde rechenschaftspflichtig war.
Für die Militärs war dieser knorrige Wissenschaftskrieger eine höchst befremdliche Erscheinung. Dass er sich zur Entspannung auf dem Potomac-Bogenschützen Club vergnügte und mit der Pfeil-und-Bogen-Technik des vierzehnten Jahrhunderts Erholung suchte, war ebenso sonderbar wie der Umstand, dass er seine Vereinskollegen sogleich mit einem verbesserten Bogen beglückte. Wovon man allerdings nicht absehen konnte, waren Bushs Resultate. Das erste Gebiet, auf dem er sein Können eindrucksvoll bewies, war der Radar. Waren die deutschen U-Boote zunächst so überlegen, dass sie nach dem Kriegseintritt der Amerikaner binnen Monatsfrist gleich 107 Schiffe versenkten, gelang es dem von Bush beauftragten Labor, die Verluste binnen weniger Monate auf ein Zehntel zu begrenzen.
Die zweite, kriegsentscheidende Innovation war der funkgesteuerte Abstandszünder. Mit diesem Gerät ließ sich die Sprengkraft der amerikanischen Bomben steigern, und zwar dadurch, dass die Bombe mittels eines eingebauten Sensors immer dann gezündet wurde, wenn ihre Wirkung am verheerendsten war. Mit dieser Wunderwaffe hatten die Amerikaner dem deutschen Marschflugkörper V1 etwas entgegenzusetzen. Zum großen Erstaunen der Militärs waren die Beiträge der Wissenschaftler sehr viel wirksamer als gedacht. Auch der begriffsstutzigste Oberst sah nun ein, dass die Aktivitäten Vannevar Bushs einen kriegsentscheidenden Faktor darstellten. Einen Faktor zudem, der auf mirakulöse Weise die lange Depression der dreißiger Jahre beendete. So kam es zur Geburt des militärisch-industriellen Komplexes.
Weil alles, was Bush vorschlug, realisiert wurde, war es auch keine Frage, dass man nur ihn (gemeinsam mit dem General Leslie Groves) mit dem hochgeheimen Manhattan Project betrauen konnte. Obwohl Bush dem Uran-Kopfschmerz nicht sonderlich wohlwollend gegenüberstand, bewies er auch hier jene gnadenlose Effizienz, die allein an konkreten und kriegsentscheidenden Lösungen interessiert war. Weil er trotz allem ein Mann der Wissenschaft blieb, gelang ihm das Kunststück, seine Wissenschaftler-Armee vor den Interventionen der Militärs zu bewahren, um den Preis allerdings, dass nun sie zur Verkörperung jenes Weltgehirns wurden, zu jener Macht, deren Geistesblitz darin bestand, Hiroshima dem Erdboden gleichzumachen.
Nimmt man das Vermächtnis des Vannevar Bush, lässt sich sagen, dass die Psychologie des Dr. Strangelove so wenig zutrifft wie die Behauptung, dass der Computer ein Produkt des Zweiten Weltkrieges ist. Stattdessen begegnet man einer Reihe von Paradoxa: Zwar war Vannevar Bush der Stifter des „militärisch-industriellen Komplexes“, aber ebenso kann man ihn als den Begründer jener Weltintelligenz auffassen, die sich im Hypertext oder in der Open-Source-Bewegung artikuliert. Eine Mischung aus idealistischem Denker und kreativem Zerstörer. Ein Geistesaristokrat, der seinen Mangel an Geschichtsbewusstsein mit einer Begeisterung für die Sonne und die Energieffizienz kompensierte. Ein Anti-Etatist in Diensten des Staates, allein dem Individuum verpflichtet und jenem göttlichen Strahl, der nicht mehr in der Religion, sondern in den Köpfen der Menschen entsteht: die Wüste Hiroshimas oder die Verheißung einer besseren Welt.
Die Big-Tech-Konzerne haben bei Vorlage der jüngsten Quartalszahlen größtenteils geglänzt. Vor allem Facebook-Mutter Meta feiert ein furioses Comeback.
Artikel ansehen
Zusammenfassung ansehen
heise online wrote the following Beitrag Fri, 04 Aug 2023 10:23:28 +0200
Big-Tech-Bilanzen: Meta im Höhenrausch, Apple im Abwärtstrend
Die Big-Tech-Konzerne haben bei Vorlage der jüngsten Quartalszahlen größtenteils geglänzt. Vor allem Facebook-Mutter Meta feiert ein furioses Comeback.
https://www.heise.de/hintergrund/Big-Tech-Bilanzen-Meta-im-Hoehenrausch-Apple-im-Abwaertstrend-9234565.html?wt_mc=sm.red.ho.mastodon.mastodon.md_beitraege.md_beitraege
#Alphabet #Apple #Börse #Google #MarkZuckerberg #Facebook #Microsoft #news
The #demonstration starts right below ↓ this horizontal line ↓:[hr][center]Centred text.[/center] [url=https://hubzilla.org]Link to the Hubzilla website[/url] which runs on Hubzilla itself. [b]Bold type.[/b] [i]Italics.[/i] [b][i]Bold and italics.[/i][/b] [u]Underline.[/u] [s]Strikethrough.[/s]
Artikel ansehen
Zusammenfassung ansehen
The #demonstration starts right below ↓ this horizontal line ↓:
Link to the Hubzilla website which runs on Hubzilla itself.
Bold type.
Italics.
Bold and italics.
Underline.
Strikethrough.
Text in a generic sans-serif typeface.
Text in a generic serif typeface.
Text in a generic monospace typeface.
Text in Courier.
Text in Arial (if that's installed on your device).
Text in Helvetica (if that's installed on your device).
Text in Free Sans (if that's installed on your device).
Text in Arial with Helvetica and Free Sans as fallbacks.
Very large text.
Extra large text.
Large text.
Small text.
Extra small text.
Very small text.
Size 12 text.
Size 20 text.
An
Red text.
Blue text.
Dark blue text.
Teal text.
Fuchsia text.
Olive text.
Text coloured in #005387 (RAL 5005 signal blue).
Text coloured in #789922 (like >greentext on 4chan).
Text highlighted in yellow.
Floral white text highlighted in #008351 (RAL 6024 traffic green).
haus das funktioniert mit mark
↓ Here goes a picture of the 7-segment digit 1. Alt-text should be, "7-segment digit 1."
↑ Here goes the picture.
↓ Here goes a picture of the 7-segment digit 2. Alt-text should be, "7-segment digit 2."
↑ Here goes the picture.
↓ Here goes a table.
↑ Here goes a table.
↓ Here goes a picture of the 7-segment digit 3. Alt-text should be, "7-segment digit 3."
↑ Here goes the picture.
↑ Here goes the picture.
Embedded YouTube video through Invidious:
Same video on PeerTube (which is part of the Fediverse, too):
↓ Here goes a picture of the 7-segment digit 5. Alt-text should be, "7-segment digit 5."
↑ Here goes the picture.
Special features of Hubzilla and (streams):
Your name:
Your short name:
Your hub:
Your profile picture, automatically embedded:
Your channel, automatically embedded and clickable:
For the record: This post has 7,750 characters.
Centred text.
Link to the Hubzilla website which runs on Hubzilla itself.
Bold type.
Italics.
Bold and italics.
Underline.
Text in a generic sans-serif typeface.
Text in a generic serif typeface.
Text in a generic monospace typeface.
Text in Courier.
Text in Arial (if that's installed on your device).
Text in Helvetica (if that's installed on your device).
Text in Free Sans (if that's installed on your device).
Text in Arial with Helvetica and Free Sans as fallbacks.
Very large text.
Extra large text.
Large text.
Small text.
Extra small text.
Very small text.
Size 12 text.
Size 20 text.
Headline 1.
Headline 2.
Headline 3.
Headline 4.
Headline 5.
Headline 6.
An
in-line code block.Multiple-line
code block.Red text.
Blue text.
Dark blue text.
Teal text.
Fuchsia text.
Olive text.
Text coloured in #005387 (RAL 5005 signal blue).
Text coloured in #789922 (like >greentext on 4chan).
Text highlighted in yellow.
Floral white text highlighted in #008351 (RAL 6024 traffic green).
haus das funktioniert mit mark
↓ Here goes a picture of the 7-segment digit 1. Alt-text should be, "7-segment digit 1."
↑ Here goes the picture.
Jupiter Rowland schrieb:This is a self-quote.
This is a quote, too.
This is a quote, three.
This is a spoiler: Spoiler
Now the spoiler is open.
↓ Here goes a picture of the 7-segment digit 2. Alt-text should be, "7-segment digit 2."
↑ Here goes the picture.
↓ Here goes a table.
| First table header | Second table header |
|---|---|
| Table content | More table content |
| Even more table content | Still more table content |
↓ Here goes a picture of the 7-segment digit 3. Alt-text should be, "7-segment digit 3."
↑ Here goes the picture.
- []Bullet-point list.
[]More bullet-point list.
[]Even more bullet-point list.
- []Numbered list.
[]More numbered list.
[]Even more numbered list.
- []Roman numbered list.
[]More Roman numbered list.
[]Even more Roman numbered list.
- []Minuscule Roman numbered list.
[]More minuscule Roman numbered list.
[]Even more minuscule Roman numbered list.
- []List with letters.
[]More list with letters.
[]Even more list with letters.
- []List with capital letters.
[]More list with capital letters.
[]Even more list with capital letters.
↑ Here goes the picture.
Embedded YouTube video through Invidious:
Same video on PeerTube (which is part of the Fediverse, too):
↓ Here goes a picture of the 7-segment digit 5. Alt-text should be, "7-segment digit 5."
↑ Here goes the picture.
Special features of Hubzilla and (streams):
Your name:
Your short name:
Your hub:
Your profile picture, automatically embedded:
Your channel, automatically embedded and clickable:
For the record: This post has 7,750 characters.
Von der Entdeckung der Möglichkeiten dezentraler Netzwerke und einer leidenschaftlichen Zuneigung.
Artikel ansehen
Zusammenfassung ansehen
Von der Entdeckung der Möglichkeiten dezentraler Netzwerke und einer leidenschaftlichen Zuneigung.
(Dieser Artikel erschien am 29.09.2022 auf https://gnulinux.ch/serie-fediverse-dienste-hubzilla)
Die sogenannten „sozialen“ Netzwerke haben mich eigentlich bis 2016 nicht interessiert. Seit Jahrzehnten hatte ich mit dem Content Managment System Joomla und der Joomla Extension Community Builder
https://extensions.joomla.org/extension/community-builder/ alles, was ich für meine Freundschaftsnetzwerke brauchte, und mit den Einblicken, die man so im Backend zum Nutzerverhalten erhält, war mein Appetit auf Facebook, Twitter & Co gleich Null. Nach der Trump-Wahl kam ich aber doch ins Nachdenken und begriff, dass hier etwas entstanden war, was unsere Gesellschaft immer mehr prägt und vielleicht doch auch meiner Aufmerksamkeit bedarf. Als dann auch noch das Bürgerzentrum, in dem ich mich engagierte, meinte, es müsste nun auch mehr auf Facebook und nebenan.de aktiv werden, war für mich der Zeitpunkt gekommen, nach Alternativen Ausschau zu halten. Wie könnte man sich digital websiteübergreifend vernetzen – ohne diese bedenklichen kommerziellen Plattformen? Meine Suche führte mich zum IndiWeb
https://indieweb.org/ und zu den freien dezentralen Netzwerken Diaspora, GNUSocial, Misskey, Friendica, Sozialhome, Mastodon, Pleroma und schließlich zu Hubzilla. Die Website von Hubzilla https://hubzilla.org hatte mich erst mal abgeschreckt – das schlichte und ein wenig langweilige Design machte mich nicht neugierig, und mit dem, was auf der Webseite an Informationen zu finden war, konnte ich erst mal nichts anfangen. Also testete ich Hubzilla als letztes.
Nach der Registrierung, dem Anlegen eines Accounts und eines Channels verstand ich erst mal nichts mehr. Andrew Manning, der Admin von start.hubzilla.org (den Server gibt es nicht mehr), gab mir ein paar Tipps – so z.B. wie man im Support-Forum
Die Sonderstellung von Hubzilla, Friendica und Sozialhome im damals gerade entstehenden Fediverse verstand ich gleich, denn nur mit diesen Anwendungen war eine Kommunikation mit Diaspora UND Mastodon bzw. GNU Social möglich… Außerdem gab und gibt es bei Hubzilla Brücken zu RSS/Atom, XMPP, IRC, Wordpress und zu den Netzwerken Twitter, pump.io. libertree, Insanejournal, Livejournal. Diese offene und vielseitige Kontaktfähigkeit war das, wonach ich suchte.
Dann erfuhr ich, dass angeblich Friendica und Hubzilla im Gegensatz zu anderen Netzwerk-Plattformen auch einfach auf einem Sharedhost-Webserver zu installieren wären, weil sie ähnlichen wie Joomla oder Wordpress reine PHP-Anwendungen sind.
Mit Servern kannte ich mich nicht so aus, aber Daten auf einen Webspace Hochladen, eine Datenbank Anlegen und dann ein Installationsscript über den Webbrowser Starten, das hatte ich schon öfter gemacht. So kam ich nach dem ersten Testen also wirklich auch ganz schnell zu einer eigenen Friendica- und Hubzilla-Installation und konnte als Admin hinter die Kulissen schauen. Das fühlte sich schon mal sehr gut an.
Bald war klar, Hubzilla hatte und hat gegenüber Friendica einige Dinge, die mich mehr interessierten, und so vernachlässigte ich die nette Friendica-Gemeinde und meine Friendica-Instanz immer mehr und probierte Hubzilla weiter ergiebig aus.
Die Channel HOME Oberfläche
und die interne Channel STREAM Oberfläche
Neben der föderierten Blog-Funktion ohne Zeichenanzahllimit und der Darstellung von Unterhaltung in einem übersichtlichen Thread sowie Umfragetool und einem Channel Event-Kalender gab und gibt es bei Hubzilla die Option, auch nicht föderierte Inhalte zu erzeugen. Man kann Wikis und komplexe Webseiten erstellen , es gibt die „Zettelkasten“-App und noch eine extra App für Blog-Artikel. Es gibt eine Cloud mit WebDav-Schnittstelle und noch beliebig viele extra Kalender und Adressbücher, die über CalDav bzw. CardDAV mit anderen Geräten wie z.b. einem Smartphone synchronisiert werden können. Es gibt lokale Chat-Räume und noch einiges mehr. Die Inhalte alle dieser Apps werden, wie schon gesagt anders als beim föderierten Macroblog, nicht auf andere Server verteilt, sondern nur bei Bedarf mit einem Link im Macroblog öffentlich oder mit den Kontakten im Netzwerk geteilt.
Alle Apps lassen sich durch ein Addon-System aktivieren bzw. deaktivieren. Kommunikation zu ActivityPup- bzw. damals vor allen Dingen OStatus-Kanälen funktioniert so auch erst nach dem Aktivieren des entsprechenden Addons.
Wie bei Friendica ist Kommunikation in Gruppen und auch in Foren möglich. Gruppen kann man beliebig aus seinen Kontakten zusammenstellen und so vordefinieren...
... und dann Inhalte gezielt nur für diese veröffentlichen bzw. zugänglich machen
Was Hubzilla von Friendica aber gravierend unterscheidet, ist, dass man bei Hubzilla nicht nur durch die Gruppen ein Zugangs-, sondern auch ein extra Berechtigungssystem hat. Damit teilt man jedem erstellten Kontakt zusätzlich ein Set von Berechtigungen zu, das festlegt, was dieser mit dem ihm zugänglich gemachten Content (also Posts, Files in der Cloud, Events, Wikis usw.) überhaupt anfangen darf.
Wie geht das genau? Hubzilla kennt 18 verschiedene solcher Berechtigungen, die in den vordefinierten Sets „öffentlich“, „persönlich“ oder „Community Forum“ als Grundeinstellungen mit der sogenannte „Channel Role“ für den eigenen Channel vorgewählt werden und die Grundeinstellung festlegen, was Kontakten erlaubt ist bzw. der eigene Channel zulässt. Für erfahrene Hubzilla-Channelbetreiber gibt es auch einen „Benutzerdefiniert“-Mode, in dem diese Grundeinstellungen noch ausdifferenzierter definiert werden können.
Auf Basis der ausgewählten Grundeinstellung in der „Channel Role“ werden dann noch „Contact Roles“ weiter definiert, worüber jedem Kontakt individuell Berechtigungen zugewiesen werden können. Wobei die Rechte, die sich aus der „Channel Role“ ergeben, eingehalten werden müssen und "vererbt" werden. Uff….
Dies in Gänze und im Zusammenhang mit einem Dezentralen Netzwerk zu verstehen und richtig zu bedienen bedarf einer Weile, und mir ging es so, wie wohl den meisten, die Hubzilla ausprobieren: Weil das Konzept ungewohnt und komplex ist, fehlte erst mal der Durchblick. Wenn man aber dran bleibt und Dinge begreift, die Bedienungen und die Buttons findet, kann man nur noch begeistert sein über das, was so möglich wird: Privacy im dezentralen Netzwerk. Entgegen der verbreiteten Kultur, alles öffentlich zu posten, gibt dir Hubzilla starke Werkzeuge an die Hand, um auch anders – eben privater - zu agieren.
Im Detail ist es z.B. so, dass selbst, wenn man sich entschließt, öffentlich zu posten, man kontrollieren kann, wer im Fediverse oder welcher Follower auf die Posts überhaupt antworten darf. Im Gegensatz zu anderen Fediverse-Anwendungen braucht ein x-beliebiger Fediverse-Account bei Hubzilla eine Berechtigung, um auf öffentliche Post eines Hubzilla-Channels zu antworten. Posts von Fremden oder Followern, denen man eben aus diversen Gründen kein Kommentar-Recht erteilen möchte, können von vorneweg unterbunden werden. Solche Einstellmöglichkeiten können so auch vor Spam schützen, den es zwar im Fediverse so noch nicht wirklich gibt, aber mit dem gerechnet werden muss, wenn das Fediverse weiter wächst. Auch für Minderjährige, die sich vor anzüglichen Posts von Accounts mit vielleicht nicht so guten Absichten schützen wollen, bietet Hubzilla so einen effektiven Schutz. Posts und Replies von Fremden können einfach unterbunden werden.
Es ist sogar bei Hubzilla möglich, dass man bestimmten Followern das Recht entziehen kann, die eigenen öffentliche Beiträge in deren Timeline anzeigen zu lassen, ohne ihn komplett zu blocken. Im Berechtigungstool deaktiviert man einfach für diesen Kontakt die Option „Kann meinen Kanal-Stream und meine Beiträge sehen“.
Mit einem Haken bei „Kann meinen Kanal administrieren“ billigt man hingegen einem Kontakt das Recht zu, den eigenen Kanal aus der Ferne fast komplett zu administrieren, was man freilich nur sehr vertrauten Kontakten erlauben würde.
Follower ist also nicht gleich Follower. Kontaktbeziehungen können bei Hubzilla durch die zugewiesene „Contact Role“ und den damit verbundenen Berechtigungen viel genauer definiert werden. Selbstverständlich können gewährte Berechtigungen bei einer Kontaktbeziehung auch differieren, so kann es sein dass man z.B. von einem Kontakt weniger Rechte zugebilligt bekommt als man selber dem Kontakt gewährt.
Das waren Funktionen, die mich vom Gesamtkonzept überzeugten und die ich bei keinem anderem dezentralen Netzwerk fand. Doch dann kam der Oberhammer, als ich begriff, dass ein Hubzilla-Server zuallererst noch etwas ganz anderes darstellt, nämlich einen Identitäts-Server.
Mit dem Aktivieren des OpenID-Addons kann Hubzilla ähnlich wie Fiendica als OpenID-Server fungieren und so Logins bei noch ganz anderen Systemen ermöglichen, die diesen Standard unterstützen... gut - aber bei Hubzilla geht es noch viel weiter: Der leidenschaftliche Musiker und Fulltime-Webentwickler Mike Macgirvin (
Das, was da 2013 angekündigt wurde und ab Dezember 2015 dann mit dem ersten offiziellen Hubzilla-Release unter den Funktionsnamen "Open Web Auth" und „Normadic Identity“ Wirklichkeit wurde, lässt mich immer noch begeistert staunen und ist für ein dezentrales Netzwerk einfach nur ein Traum. Man kann also über "Open Web Auth" mit einem selbst-gehosteten Server nicht nur ein single sign on ermöglichen, sondern mit dem login wird der Channel auch mit den ihm verbundenen bzw. gewährten Rechte erkannt, so dass ohne extra Login das Zugreifen, Editieren oder Veröffentlichen von Content in einem auf einem anderen Server gehosteten Channel möglich ist. So lassen sich z.B. auch die Wikis in Kombination mit den für einen Kontakt gewährten Rechten durch die "Contact Role" ohne weiteres Login gemeinsam bearbeiten oder sogenannte Wallposts direkt in die föderierte Timeline des anderen Channels tätigen. Und wenn man nun schließlich aus irgendeinem Grund den Server für seinen Channel wechseln möchte, ist ein Umzug per „Normadic Identity“ von einem Server auf einen anderen Server mit allen Kontakten, Posts und sonstigen Konten möglich!!! Die Identität im Netzwerk bleibt dabei zu 100% erhalten! Flash - Whooo – einfach nur großartig! Game-Changing Functionality.
Liegt es an der mangelnden schicken Verpackung von Hubzilla, dass viele diese Funktionen nicht entdecken, ausprobieren und schätzen lernen? „Mangelnde schicke Verpackung?“ Da kann man selber was dran tun! Mit Widgets, Templates und CSS-Style-Sheets lässt sich das Aussehen eines Channels leicht verändern. Aber auch solche Funktionen führen dazu, dass mancher sich vom Funktionsumfang überfordert fühlt. Auch ich habe anfangs immer wieder nach Vereinfachungen gefragt. Und überhaupt: Warum kann das alles hier nicht gleich so aussehen wie bei Mastodon?
Über die Jahre habe ich verstanden, dass man nicht Äpfel mit Birnen verwechseln sollte, und die Prioritäten der wenigen Hubzilla-Entwickler eben anders gelagert sind. So gibt es auch keinen Referenzserver wie mastodon.social oder pixelfed.social, der von den Hubzilla-Entwicklern als Flaggschiff unterhalten wird. Gemäß der Philosophie des Projektes sollen der Einzelne und die Communtiy anfangen, sich selber zu organisieren. Es gehört zum Konzept, dass man Interessierten möglichst einfach die Einrichtung eines eigenen Servers ermöglicht, und dann ist es eben nur konsequent, wenn man das als Entwickler auch quasi einfordert.
Auch bei einem Fedi-Server ist man ja letztendlich nur als Admin wirklich Herr über seine Daten. Bei vielen neuen Projekten, die heute gerne in Ruby, Rust & Co geschrieben werden, können die Entwickler nicht so eine einfache Webinstallation wie bei PHP-Anwendungen anbieten. Wenn das Fediverse dezentral weiter wachsen soll und auch technisch nicht so affine Personen zum Selberhosten befähigt werden sollen, ist eine möglichst einfache Webinstallation aber ein sehr wichtiger Baustein. Wie oben schon berichtet, macht es dir Hubzilla in dieser Hinsicht sehr einfach. Die Vision der Entwickler ist, dass die Installation und Administration eines eigenen Fedi-Servers ähnlich leicht sein soll wie die eines eigenen Wordpress-Blogs.
entnommen aus https://unfediverse.com/cloud/mike/media/2021-04-19%2010-02-24.mp4
Mikes Anwendungen im Fediverse fußen auf einem von ihm immer weiter entwickelten Protokoll, das bei Friendica DFRN, bei Hubzilla ZOT und mittlerweile "Nomad" genannt wird. ZOT gibt es schon einige Jahre länger als ActivityPub, und einiges, das ZOT bzw. Nomad besonders auszeichnet, versteht das Protokoll AcitvityPub nicht und funktioniert nur zwischen Zot/Nomad-Channels reibungslos. Mikes Bestreben in den letzten Jahren war es, die wichtigsten speziellen ZOT-/Nomad-Funktionen in die immer größer werdende ActivityPub-Welt zu portieren. Mit dem Projekt „Streams“ scheint ihm das nun gelungen zu sein. Streams arbeitet mit der neusten Variante des Nomad-Protokolls und nativ mit ActivityPub im Hintergrund und ist so etwas wie eine jüngere kesse Schwerster von Hubzilla mit reduziertem Funktionsumfang, die primär Kompatibilität zu anderen ActivityPub-Anwendungen herstellt.
Hubzilla profitiert von Mikes Arbeit, indem Weiterentwicklungen des ZOT-/Nomad-Protokolls nach und nach in Hubzilla integriert werden, ohne dass dabei der Funktionsumfang von Hubzilla kleiner würde. Eine wunderbare Schach-App funktioniert allerdings seit einiger Zeit nicht mehr und sucht einen neuen Maintainer. https://framagit.org/hubzilla/addons-unmaintained
Unabhängig von solchen bedauerlichen Kleinigkeiten lebt und wächst Hubzilla und wurde in den letzten Jahren von dem begnadeten Jazzmusiker Mario Vavti
(Photo by Urška Lukovnjak https://www.knofla.si/)
Hubzilla bleibt für mich die mächtigste Königin im Fediverse, eine stimmgewaltige Jazz-Diva, mit beinah unbegrenzten Möglichkeiten. Wenn man neben dem Posten und Bloggen spezielle Interessen intensiv leben möchte, kann man sich für jedes dieser Interessen im Fediverse einen extra Account bei den Spezialanwendungen wie Peertube, Pixelfeed, Funkwhale, Bookwyrm, Mobilizon usw. anlegen. Bei Hubzilla habe ich hingegen die Basisfunktionen alle unter einem Account integriert, und wenn es darum geht, hin und wieder Events, Fotos, Videos, Audios oder Buchempfehlungen zu teilen, braucht man erst mal nichts Weiteres. Hubzilla unterscheidet ähnlich wie Peertube zwischen Accounts und Channels. Man kann unter einem Hubzilla-Account beliebig viele Channels anlegen, in denen man bei Bedarf entweder spezielle Themen, Funktionen oder Privacy-Einstellungen mit einer seperaten Identität umsetzt. Alle Identitäten bleiben aber so immer nur mit einem Account, mit einer Anmeldung verbunden.
Es gibt momentan über 80 Apps im offiziellen Hubzilla-Addon-Repository.
Aus der langen Liste der Möglichkeiten hier noch ein paar Features, die ich nutze:
Umfragen lassen sich mit unbegrenzten Antwortoptionen erstellen (für die Autorin "caos"
https://gnulinux.ch/artikelindex?search=caos allein schon ein Killerfeature ;-) )
Fotos können in Alben organisiert und mit Fotowalls präsentiert werden.
Auch RSS-/Atom-Feeds lassen sich ohne Schnick und Schnack ganz einfach in einen Hubzilla-Channel importieren. Man fügt eine Feedadresse einfach wie die Adresse eines Kontakts der Kontakliste hinzu.
So kann man auch einen Hubzilla-Channel als RSS-Feedreader-Ergänzung/-Ersatz betreiben und z.B. Webseiten von Bloggern mit RSS-Feeds folgen, die noch nicht im Fedivese zu finden sind. Mit der App „Kanal-Quellen“ lassen sich dann automatisiert RSS-Feed-Beiträge über einen Channel im Netzwerk verbreiten.
Öffentliche Posts des eigenen Channels stehen für Andere als Atom-Feed bereit.
Über die „Bookmark-App“ sind Lesezeichensammlungen zu Webseiten einfach zu erstellen und teilbar.
Die in Hubzilla integrierte Cloud lässt sich über WebDAV auch z.B. mit Werkzeugn wie „RCX - Rclone for Android“ https://f-droid.org/de/packages/io.github.x0b.rcx/ oder Joplin https://joplinapp.org/ nutzen bzw. einfach als Netzlaufwerk im Dateimanager einbinden.
Über die „Guest-App“ kann man Tokens erstellen und Dropbox-ähnliche Zugriffslinks auf Files in der eigenen Hubzilla-Cloud auch an Personen weitergeben, die noch keinen Fediverse-Account haben.
Nachrichten lassen sich verschlüsseln, so dass auch der Admin eines Servers Texte nicht aus der Datenbank herauslesen kann.
Über CalDav lassen sich beliebig viele Terminkalender zu anderen Channels auf demselben Server und mit dem Smartphone teilen und synchronisieren.
Posts sind editierbar, auch nachdem sie das erste Mal abgeschickt wurden, und es gibt die Möglichkeit, einen Zustellungsbericht zu jedem abgeschickten Post leicht mit einem Click im Kontextmenü einzusehen. Das ist immer wieder sehr nützlich.
Mit der „Open-street-map-App“ können Landkarten, Standorte und Adressen einfach geteilt werden, und mit der „Rendezvous-App“ können Standorte von mehreren Kontakten gleichzeitig und Bewegungen auf Open-Street-Map-Karten „live“ dargestellt werden.
Mit dem vorhandenen Berechtigungssystem kann man auch einen Shop bauen bei dem man z.B. Video- oder Audiofiles nur gegen Bezahlung frei gibt. Es gibt ein Paypal-Bezahlfunktion, alternativen sind noch nicht implementiert.
Mit der Flashcards-App lernt und teilt man Vokabeln.
Eingehender Content ist filterbar nach z.B. Sprache, Begriffen und Kontakten, und der gesamte Content ist mit einer Volltextsuchfunktion durchsuchbar.
Beiträge lassen sich nicht nur mit Hashtags, sondern auch intern nur für sich selbst mit Schlagwörtern und Favoritenstern markieren und sortieren – so wird ein Channel mit der Zeit zu einem wirklich brauchbaren persönlichen Archiv – und alles kann man exportieren...
und wieder importieren !
Es entsteht über die Zeit eine digitale Identität – eine Online-Identität, die unabhängig von einem bestimmten Server existieren kann.
Und jetzt noch ein weiteres entscheidendes Merkmal: bei Hubzilla wird die Stellung und das Ansehen eines Channels im Netzwerk nicht gleich aufgrund von Like-, Follower- oder geposteten Nachrichtenzahlen motiviert. Die bei andern Fedi-Anwendungen oft noch prominent in Profil angegebenen Zahlen sind wohl eine mehr unreflektierte Übernahme aus den bekannten kommerziellen Plattformen. Bei Hubzilla kann man nun im eigenem Profil durchaus anzeigen lassen, wie viele und wer alles einem folgt. Man kann aber diese Anzeige auch für einzelne oder auch für alle Kontakte komplett deaktivieren. Es ist sogar möglich zu verhindern, dass man in den Profilen seiner Kontakte als Follower angezeigt wird, selbst wenn diese in ihren Profilen gerne einen als Follower präsentieren würden. Man hat also auch in dieser Beziehung volle Kontrolle darüber, wie man im Netzwerk erscheint, und muss sich nicht den Gesetzen der auch kapitalistisch motivierten Ranking-Bewertungsgesellschaft ergeben.
Bedarf es hier noch des Hinweises, dass die in der DSGVO formulierten Hauptanforderungen wie Datenübertragbarkeit, Recht auf Vergessenwerden, Recht auf Korrektur, Auskunft, Berichtigen und Löschen bei Hubzilla voll implementiert sind?
Es ist leicht zu verstehen, dass das alles zusammen einiges mehr darstellt als z.B. einen Twitter- oder Instagram-Ersatz. Hubzilla ist ein sehr mächtiges ethisch motiviertes Tool, das es so noch nie gab! Ein föderiertes nomadisches CMS-Netzwerkwerkzeug, das wahre Privatsphäre im Netzwerk ermöglicht. Ein Werkzeug mit einem Funktionsmix aus Facebook, Dropbox, Google Calendar, Mediawiki, Evernote, Wallabag, Feedreader, und gleichzeitig geeignet für den eigenen Digital-Garden https://maggieappleton.com/garden-history . Auch fast alle Prinzipien des IndiWeb https://indieweb.org/principles und auch so was wie POSSE https://indieweb.org/POSSE kann man mit Hubzilla gut umsetzen.
Bei mir hat es sich so entwickelt: Mittlerweile habe ich in meinen vier Wänden einen eigenem Yunohost-Server https://yunohost.org auf einem Raspi Pi laufen, der auch denselben Hubzilla-Channel hostet, den ich vor Jahren zuerst auf start.hubzilla.org erstellt und dann auf einen Sharedhost-Server geclont hatte. Alle meine Posts, Artikel, Wikis, Files und Kontakte, die ich seit meinen ersten Schritten mit Hubzilla in diesem Channel angelegt habe, sind damit erhalten geblieben und existieren hier noch. Das würde ich mal glatt gelebte digitale Souveränität nennen .
Natürlich wollte ich in dem Bürgerzentrum, in dem ich aktiv war, meine Begeisterung verbreiten, aber damit kam ich nicht weit – da regieren weiter Facebook und Instagram. Mit Einigem ist man ja allgemein im Fediverse anderen Realitäten um Jahre voraus. Ich schätze, es braucht noch eine Weile, bis sich hier was bewegt.
Mit der Plattform https://allmendenetz.de gibt es seit einem Jahr eine Demo-Site, mit der ich sozial engagierten Institutionen demonstrieren möchte, was im Fediverse möglich ist. Mal sehen, was sich daraus noch entwickelt.
Jeden, der diesen langen Artikel bis hierher liest, würde ich gerne ermuntern, Hubzilla oder auch Streams auszuprobieren und sich auf die Funktionen einzulassen, ohne sich dabei gleich von der fehlenden schicken Verpackung den Spaß verderben zu lassen. Es lohnt sich garantiert.
Hubzilla ist unter der MIT Lizenz veröffentlicht: https://framagit.org/hubzilla/core
Streams findet man unter public domain hier: https://codeberg.org/streams
Weitere Links:
https://hubzilla.org
https://fediverse.party/en/hubzilla/
https://hubzilla.fediverse.observer/
https://medium.com/tag/hubzilla
https://medium.com/we-distribute/the-do-everything-system-an-in-depth-review-of-hubzilla-3-0-692204177d4e
https://medium.com/we-distribute/got-zot-mike-macgirvin-45287601ff19
https://pepecyb.hu/knowledgebase/
https://hub.pericles.hu/wiki/pepecyb8806/Pepes(20)Knowledgebase/Home
https://pepecyb.hu/hubzilla-in-der-dose-hid/
https://hub.pericles.hu/wiki/pepecyb8806/Hubzilla(20)in(20)der(20)Dose(20)(28)HiD(29)/Home
https://video.hardlimit.com/w/f32a07ec-5f5b-4629-a7e2-7db7993d218f
d
(Dieser Artikel erschien am 29.09.2022 auf https://gnulinux.ch/serie-fediverse-dienste-hubzilla)
Die sogenannten „sozialen“ Netzwerke haben mich eigentlich bis 2016 nicht interessiert. Seit Jahrzehnten hatte ich mit dem Content Managment System Joomla und der Joomla Extension Community Builder
https://extensions.joomla.org/extension/community-builder/ alles, was ich für meine Freundschaftsnetzwerke brauchte, und mit den Einblicken, die man so im Backend zum Nutzerverhalten erhält, war mein Appetit auf Facebook, Twitter & Co gleich Null. Nach der Trump-Wahl kam ich aber doch ins Nachdenken und begriff, dass hier etwas entstanden war, was unsere Gesellschaft immer mehr prägt und vielleicht doch auch meiner Aufmerksamkeit bedarf. Als dann auch noch das Bürgerzentrum, in dem ich mich engagierte, meinte, es müsste nun auch mehr auf Facebook und nebenan.de aktiv werden, war für mich der Zeitpunkt gekommen, nach Alternativen Ausschau zu halten. Wie könnte man sich digital websiteübergreifend vernetzen – ohne diese bedenklichen kommerziellen Plattformen? Meine Suche führte mich zum IndiWeb https://indieweb.org/ und zu den freien dezentralen Netzwerken Diaspora, GNUSocial, Misskey, Friendica, Sozialhome, Mastodon, Pleroma und schließlich zu Hubzilla. Die Website von Hubzilla https://hubzilla.org hatte mich erst mal abgeschreckt – das schlichte und ein wenig langweilige Design machte mich nicht neugierig, und mit dem, was auf der Webseite an Informationen zu finden war, konnte ich erst mal nichts anfangen. Also testete ich Hubzilla als letztes.Nach der Registrierung, dem Anlegen eines Accounts und eines Channels verstand ich erst mal nichts mehr. Andrew Manning, der Admin von start.hubzilla.org (den Server gibt es nicht mehr), gab mir ein paar Tipps – so z.B. wie man im Support-Forum
https://zotadel.net/channel/support nachfragen konnte – und auf diese Weisse versuchte ich die angebotenen Funktionen gleich wie bei den andern Netzwerken, die ich schon ausgiebig getestet hatte, zu ergründen.Die Sonderstellung von Hubzilla, Friendica und Sozialhome im damals gerade entstehenden Fediverse verstand ich gleich, denn nur mit diesen Anwendungen war eine Kommunikation mit Diaspora UND Mastodon bzw. GNU Social möglich… Außerdem gab und gibt es bei Hubzilla Brücken zu RSS/Atom, XMPP, IRC, Wordpress und zu den Netzwerken Twitter, pump.io. libertree, Insanejournal, Livejournal. Diese offene und vielseitige Kontaktfähigkeit war das, wonach ich suchte.
Dann erfuhr ich, dass angeblich Friendica und Hubzilla im Gegensatz zu anderen Netzwerk-Plattformen auch einfach auf einem Sharedhost-Webserver zu installieren wären, weil sie ähnlichen wie Joomla oder Wordpress reine PHP-Anwendungen sind.
Mit Servern kannte ich mich nicht so aus, aber Daten auf einen Webspace Hochladen, eine Datenbank Anlegen und dann ein Installationsscript über den Webbrowser Starten, das hatte ich schon öfter gemacht. So kam ich nach dem ersten Testen also wirklich auch ganz schnell zu einer eigenen Friendica- und Hubzilla-Installation und konnte als Admin hinter die Kulissen schauen. Das fühlte sich schon mal sehr gut an.
Bald war klar, Hubzilla hatte und hat gegenüber Friendica einige Dinge, die mich mehr interessierten, und so vernachlässigte ich die nette Friendica-Gemeinde und meine Friendica-Instanz immer mehr und probierte Hubzilla weiter ergiebig aus.
Die Channel HOME Oberfläche
und die interne Channel STREAM Oberfläche
Neben der föderierten Blog-Funktion ohne Zeichenanzahllimit und der Darstellung von Unterhaltung in einem übersichtlichen Thread sowie Umfragetool und einem Channel Event-Kalender gab und gibt es bei Hubzilla die Option, auch nicht föderierte Inhalte zu erzeugen. Man kann Wikis und komplexe Webseiten erstellen , es gibt die „Zettelkasten“-App und noch eine extra App für Blog-Artikel. Es gibt eine Cloud mit WebDav-Schnittstelle und noch beliebig viele extra Kalender und Adressbücher, die über CalDav bzw. CardDAV mit anderen Geräten wie z.b. einem Smartphone synchronisiert werden können. Es gibt lokale Chat-Räume und noch einiges mehr. Die Inhalte alle dieser Apps werden, wie schon gesagt anders als beim föderierten Macroblog, nicht auf andere Server verteilt, sondern nur bei Bedarf mit einem Link im Macroblog öffentlich oder mit den Kontakten im Netzwerk geteilt.
Alle Apps lassen sich durch ein Addon-System aktivieren bzw. deaktivieren. Kommunikation zu ActivityPup- bzw. damals vor allen Dingen OStatus-Kanälen funktioniert so auch erst nach dem Aktivieren des entsprechenden Addons.
Wie bei Friendica ist Kommunikation in Gruppen und auch in Foren möglich. Gruppen kann man beliebig aus seinen Kontakten zusammenstellen und so vordefinieren...
... und dann Inhalte gezielt nur für diese veröffentlichen bzw. zugänglich machen
Was Hubzilla von Friendica aber gravierend unterscheidet, ist, dass man bei Hubzilla nicht nur durch die Gruppen ein Zugangs-, sondern auch ein extra Berechtigungssystem hat. Damit teilt man jedem erstellten Kontakt zusätzlich ein Set von Berechtigungen zu, das festlegt, was dieser mit dem ihm zugänglich gemachten Content (also Posts, Files in der Cloud, Events, Wikis usw.) überhaupt anfangen darf.
Wie geht das genau? Hubzilla kennt 18 verschiedene solcher Berechtigungen, die in den vordefinierten Sets „öffentlich“, „persönlich“ oder „Community Forum“ als Grundeinstellungen mit der sogenannte „Channel Role“ für den eigenen Channel vorgewählt werden und die Grundeinstellung festlegen, was Kontakten erlaubt ist bzw. der eigene Channel zulässt. Für erfahrene Hubzilla-Channelbetreiber gibt es auch einen „Benutzerdefiniert“-Mode, in dem diese Grundeinstellungen noch ausdifferenzierter definiert werden können.
Auf Basis der ausgewählten Grundeinstellung in der „Channel Role“ werden dann noch „Contact Roles“ weiter definiert, worüber jedem Kontakt individuell Berechtigungen zugewiesen werden können. Wobei die Rechte, die sich aus der „Channel Role“ ergeben, eingehalten werden müssen und "vererbt" werden. Uff….
Dies in Gänze und im Zusammenhang mit einem Dezentralen Netzwerk zu verstehen und richtig zu bedienen bedarf einer Weile, und mir ging es so, wie wohl den meisten, die Hubzilla ausprobieren: Weil das Konzept ungewohnt und komplex ist, fehlte erst mal der Durchblick. Wenn man aber dran bleibt und Dinge begreift, die Bedienungen und die Buttons findet, kann man nur noch begeistert sein über das, was so möglich wird: Privacy im dezentralen Netzwerk. Entgegen der verbreiteten Kultur, alles öffentlich zu posten, gibt dir Hubzilla starke Werkzeuge an die Hand, um auch anders – eben privater - zu agieren.
Im Detail ist es z.B. so, dass selbst, wenn man sich entschließt, öffentlich zu posten, man kontrollieren kann, wer im Fediverse oder welcher Follower auf die Posts überhaupt antworten darf. Im Gegensatz zu anderen Fediverse-Anwendungen braucht ein x-beliebiger Fediverse-Account bei Hubzilla eine Berechtigung, um auf öffentliche Post eines Hubzilla-Channels zu antworten. Posts von Fremden oder Followern, denen man eben aus diversen Gründen kein Kommentar-Recht erteilen möchte, können von vorneweg unterbunden werden. Solche Einstellmöglichkeiten können so auch vor Spam schützen, den es zwar im Fediverse so noch nicht wirklich gibt, aber mit dem gerechnet werden muss, wenn das Fediverse weiter wächst. Auch für Minderjährige, die sich vor anzüglichen Posts von Accounts mit vielleicht nicht so guten Absichten schützen wollen, bietet Hubzilla so einen effektiven Schutz. Posts und Replies von Fremden können einfach unterbunden werden.
Es ist sogar bei Hubzilla möglich, dass man bestimmten Followern das Recht entziehen kann, die eigenen öffentliche Beiträge in deren Timeline anzeigen zu lassen, ohne ihn komplett zu blocken. Im Berechtigungstool deaktiviert man einfach für diesen Kontakt die Option „Kann meinen Kanal-Stream und meine Beiträge sehen“.
Mit einem Haken bei „Kann meinen Kanal administrieren“ billigt man hingegen einem Kontakt das Recht zu, den eigenen Kanal aus der Ferne fast komplett zu administrieren, was man freilich nur sehr vertrauten Kontakten erlauben würde.
Follower ist also nicht gleich Follower. Kontaktbeziehungen können bei Hubzilla durch die zugewiesene „Contact Role“ und den damit verbundenen Berechtigungen viel genauer definiert werden. Selbstverständlich können gewährte Berechtigungen bei einer Kontaktbeziehung auch differieren, so kann es sein dass man z.B. von einem Kontakt weniger Rechte zugebilligt bekommt als man selber dem Kontakt gewährt.
Das waren Funktionen, die mich vom Gesamtkonzept überzeugten und die ich bei keinem anderem dezentralen Netzwerk fand. Doch dann kam der Oberhammer, als ich begriff, dass ein Hubzilla-Server zuallererst noch etwas ganz anderes darstellt, nämlich einen Identitäts-Server.
Mit dem Aktivieren des OpenID-Addons kann Hubzilla ähnlich wie Fiendica als OpenID-Server fungieren und so Logins bei noch ganz anderen Systemen ermöglichen, die diesen Standard unterstützen... gut - aber bei Hubzilla geht es noch viel weiter: Der leidenschaftliche Musiker und Fulltime-Webentwickler Mike Macgirvin (
https://unfediverse.com/channel/mike und https://macgirvin.com/channel/mike ) , der neben Evan Prodromou zu den Urvätern des Fedivers gehört (Er ist seit einer Zeit mit der Entwicklung von dezentralen Netzwerken aktiv, als das Fediverse noch gar nicht so hieß), startete, nachdem er 2010 schon Friendica erfunden und entwickelt hatte, 2012 das Projekt Friendica Red, aus dem sich RedMatrix und schließlich Hubzilla entwickeln sollten. Wie aus der Projektbeschreibung hervorging, war das Ziel, Identitäten eines dezentralen Netzwerkes unabhängig von einem bestimmten Server agieren zu lassen:Das, was da 2013 angekündigt wurde und ab Dezember 2015 dann mit dem ersten offiziellen Hubzilla-Release unter den Funktionsnamen "Open Web Auth" und „Normadic Identity“ Wirklichkeit wurde, lässt mich immer noch begeistert staunen und ist für ein dezentrales Netzwerk einfach nur ein Traum. Man kann also über "Open Web Auth" mit einem selbst-gehosteten Server nicht nur ein single sign on ermöglichen, sondern mit dem login wird der Channel auch mit den ihm verbundenen bzw. gewährten Rechte erkannt, so dass ohne extra Login das Zugreifen, Editieren oder Veröffentlichen von Content in einem auf einem anderen Server gehosteten Channel möglich ist. So lassen sich z.B. auch die Wikis in Kombination mit den für einen Kontakt gewährten Rechten durch die "Contact Role" ohne weiteres Login gemeinsam bearbeiten oder sogenannte Wallposts direkt in die föderierte Timeline des anderen Channels tätigen. Und wenn man nun schließlich aus irgendeinem Grund den Server für seinen Channel wechseln möchte, ist ein Umzug per „Normadic Identity“ von einem Server auf einen anderen Server mit allen Kontakten, Posts und sonstigen Konten möglich!!! Die Identität im Netzwerk bleibt dabei zu 100% erhalten! Flash - Whooo – einfach nur großartig! Game-Changing Functionality.
Liegt es an der mangelnden schicken Verpackung von Hubzilla, dass viele diese Funktionen nicht entdecken, ausprobieren und schätzen lernen? „Mangelnde schicke Verpackung?“ Da kann man selber was dran tun! Mit Widgets, Templates und CSS-Style-Sheets lässt sich das Aussehen eines Channels leicht verändern. Aber auch solche Funktionen führen dazu, dass mancher sich vom Funktionsumfang überfordert fühlt. Auch ich habe anfangs immer wieder nach Vereinfachungen gefragt. Und überhaupt: Warum kann das alles hier nicht gleich so aussehen wie bei Mastodon?
Über die Jahre habe ich verstanden, dass man nicht Äpfel mit Birnen verwechseln sollte, und die Prioritäten der wenigen Hubzilla-Entwickler eben anders gelagert sind. So gibt es auch keinen Referenzserver wie mastodon.social oder pixelfed.social, der von den Hubzilla-Entwicklern als Flaggschiff unterhalten wird. Gemäß der Philosophie des Projektes sollen der Einzelne und die Communtiy anfangen, sich selber zu organisieren. Es gehört zum Konzept, dass man Interessierten möglichst einfach die Einrichtung eines eigenen Servers ermöglicht, und dann ist es eben nur konsequent, wenn man das als Entwickler auch quasi einfordert.
Auch bei einem Fedi-Server ist man ja letztendlich nur als Admin wirklich Herr über seine Daten. Bei vielen neuen Projekten, die heute gerne in Ruby, Rust & Co geschrieben werden, können die Entwickler nicht so eine einfache Webinstallation wie bei PHP-Anwendungen anbieten. Wenn das Fediverse dezentral weiter wachsen soll und auch technisch nicht so affine Personen zum Selberhosten befähigt werden sollen, ist eine möglichst einfache Webinstallation aber ein sehr wichtiger Baustein. Wie oben schon berichtet, macht es dir Hubzilla in dieser Hinsicht sehr einfach. Die Vision der Entwickler ist, dass die Installation und Administration eines eigenen Fedi-Servers ähnlich leicht sein soll wie die eines eigenen Wordpress-Blogs.
entnommen aus https://unfediverse.com/cloud/mike/media/2021-04-19%2010-02-24.mp4
Mikes Anwendungen im Fediverse fußen auf einem von ihm immer weiter entwickelten Protokoll, das bei Friendica DFRN, bei Hubzilla ZOT und mittlerweile "Nomad" genannt wird. ZOT gibt es schon einige Jahre länger als ActivityPub, und einiges, das ZOT bzw. Nomad besonders auszeichnet, versteht das Protokoll AcitvityPub nicht und funktioniert nur zwischen Zot/Nomad-Channels reibungslos. Mikes Bestreben in den letzten Jahren war es, die wichtigsten speziellen ZOT-/Nomad-Funktionen in die immer größer werdende ActivityPub-Welt zu portieren. Mit dem Projekt „Streams“ scheint ihm das nun gelungen zu sein. Streams arbeitet mit der neusten Variante des Nomad-Protokolls und nativ mit ActivityPub im Hintergrund und ist so etwas wie eine jüngere kesse Schwerster von Hubzilla mit reduziertem Funktionsumfang, die primär Kompatibilität zu anderen ActivityPub-Anwendungen herstellt.
Hubzilla profitiert von Mikes Arbeit, indem Weiterentwicklungen des ZOT-/Nomad-Protokolls nach und nach in Hubzilla integriert werden, ohne dass dabei der Funktionsumfang von Hubzilla kleiner würde. Eine wunderbare Schach-App funktioniert allerdings seit einiger Zeit nicht mehr und sucht einen neuen Maintainer. https://framagit.org/hubzilla/addons-unmaintained
Unabhängig von solchen bedauerlichen Kleinigkeiten lebt und wächst Hubzilla und wurde in den letzten Jahren von dem begnadeten Jazzmusiker Mario Vavti
https://hub.somaton.com/channel/mario und einer Handvoll Mitstreiter gepflegt und weiterentwickelt. Seit der jüngsten Hubzilla-Version gibt es nun ein Dashboard, in dem man aktuelle Content-Veränderungen der verschiedenen installieren Addons auf einer Startseite angezeigt bekommt. Auch funktioniert das Arrangieren von Widgets nun per drag-and-drop. Weitere UX/UI Verbesserungen sind geplant. Seine jährliche Roadmap veröffentlicht Mario hier: https://hub.somaton.com/wiki/mario(Photo by Urška Lukovnjak
https://www.knofla.si/) Hubzilla bleibt für mich die mächtigste Königin im Fediverse, eine stimmgewaltige Jazz-Diva, mit beinah unbegrenzten Möglichkeiten. Wenn man neben dem Posten und Bloggen spezielle Interessen intensiv leben möchte, kann man sich für jedes dieser Interessen im Fediverse einen extra Account bei den Spezialanwendungen wie Peertube, Pixelfeed, Funkwhale, Bookwyrm, Mobilizon usw. anlegen. Bei Hubzilla habe ich hingegen die Basisfunktionen alle unter einem Account integriert, und wenn es darum geht, hin und wieder Events, Fotos, Videos, Audios oder Buchempfehlungen zu teilen, braucht man erst mal nichts Weiteres. Hubzilla unterscheidet ähnlich wie Peertube zwischen Accounts und Channels. Man kann unter einem Hubzilla-Account beliebig viele Channels anlegen, in denen man bei Bedarf entweder spezielle Themen, Funktionen oder Privacy-Einstellungen mit einer seperaten Identität umsetzt. Alle Identitäten bleiben aber so immer nur mit einem Account, mit einer Anmeldung verbunden.
Es gibt momentan über 80 Apps im offiziellen Hubzilla-Addon-Repository.
Aus der langen Liste der Möglichkeiten hier noch ein paar Features, die ich nutze:
Umfragen lassen sich mit unbegrenzten Antwortoptionen erstellen (für die Autorin "caos"
https://gnulinux.ch/artikelindex?search=caos allein schon ein Killerfeature ;-) )Fotos können in Alben organisiert und mit Fotowalls präsentiert werden.
Auch RSS-/Atom-Feeds lassen sich ohne Schnick und Schnack ganz einfach in einen Hubzilla-Channel importieren. Man fügt eine Feedadresse einfach wie die Adresse eines Kontakts der Kontakliste hinzu.
So kann man auch einen Hubzilla-Channel als RSS-Feedreader-Ergänzung/-Ersatz betreiben und z.B. Webseiten von Bloggern mit RSS-Feeds folgen, die noch nicht im Fedivese zu finden sind. Mit der App „Kanal-Quellen“ lassen sich dann automatisiert RSS-Feed-Beiträge über einen Channel im Netzwerk verbreiten.
Öffentliche Posts des eigenen Channels stehen für Andere als Atom-Feed bereit.
Über die „Bookmark-App“ sind Lesezeichensammlungen zu Webseiten einfach zu erstellen und teilbar.
Die in Hubzilla integrierte Cloud lässt sich über WebDAV auch z.B. mit Werkzeugn wie „RCX - Rclone for Android“
https://f-droid.org/de/packages/io.github.x0b.rcx/ oder Joplin https://joplinapp.org/ nutzen bzw. einfach als Netzlaufwerk im Dateimanager einbinden.Über die „Guest-App“ kann man Tokens erstellen und Dropbox-ähnliche Zugriffslinks auf Files in der eigenen Hubzilla-Cloud auch an Personen weitergeben, die noch keinen Fediverse-Account haben.
Nachrichten lassen sich verschlüsseln, so dass auch der Admin eines Servers Texte nicht aus der Datenbank herauslesen kann.
Über CalDav lassen sich beliebig viele Terminkalender zu anderen Channels auf demselben Server und mit dem Smartphone teilen und synchronisieren.
Posts sind editierbar, auch nachdem sie das erste Mal abgeschickt wurden, und es gibt die Möglichkeit, einen Zustellungsbericht zu jedem abgeschickten Post leicht mit einem Click im Kontextmenü einzusehen. Das ist immer wieder sehr nützlich.
Mit der „Open-street-map-App“ können Landkarten, Standorte und Adressen einfach geteilt werden, und mit der „Rendezvous-App“ können Standorte von mehreren Kontakten gleichzeitig und Bewegungen auf Open-Street-Map-Karten „live“ dargestellt werden.
Mit dem vorhandenen Berechtigungssystem kann man auch einen Shop bauen bei dem man z.B. Video- oder Audiofiles nur gegen Bezahlung frei gibt. Es gibt ein Paypal-Bezahlfunktion, alternativen sind noch nicht implementiert.
Mit der Flashcards-App lernt und teilt man Vokabeln.
Eingehender Content ist filterbar nach z.B. Sprache, Begriffen und Kontakten, und der gesamte Content ist mit einer Volltextsuchfunktion durchsuchbar.
Beiträge lassen sich nicht nur mit Hashtags, sondern auch intern nur für sich selbst mit Schlagwörtern und Favoritenstern markieren und sortieren – so wird ein Channel mit der Zeit zu einem wirklich brauchbaren persönlichen Archiv – und alles kann man exportieren...
und wieder importieren !
Es entsteht über die Zeit eine digitale Identität – eine Online-Identität, die unabhängig von einem bestimmten Server existieren kann.
Und jetzt noch ein weiteres entscheidendes Merkmal: bei Hubzilla wird die Stellung und das Ansehen eines Channels im Netzwerk nicht gleich aufgrund von Like-, Follower- oder geposteten Nachrichtenzahlen motiviert. Die bei andern Fedi-Anwendungen oft noch prominent in Profil angegebenen Zahlen sind wohl eine mehr unreflektierte Übernahme aus den bekannten kommerziellen Plattformen. Bei Hubzilla kann man nun im eigenem Profil durchaus anzeigen lassen, wie viele und wer alles einem folgt. Man kann aber diese Anzeige auch für einzelne oder auch für alle Kontakte komplett deaktivieren. Es ist sogar möglich zu verhindern, dass man in den Profilen seiner Kontakte als Follower angezeigt wird, selbst wenn diese in ihren Profilen gerne einen als Follower präsentieren würden. Man hat also auch in dieser Beziehung volle Kontrolle darüber, wie man im Netzwerk erscheint, und muss sich nicht den Gesetzen der auch kapitalistisch motivierten Ranking-Bewertungsgesellschaft ergeben.
Bedarf es hier noch des Hinweises, dass die in der DSGVO formulierten Hauptanforderungen wie Datenübertragbarkeit, Recht auf Vergessenwerden, Recht auf Korrektur, Auskunft, Berichtigen und Löschen bei Hubzilla voll implementiert sind?
Es ist leicht zu verstehen, dass das alles zusammen einiges mehr darstellt als z.B. einen Twitter- oder Instagram-Ersatz. Hubzilla ist ein sehr mächtiges ethisch motiviertes Tool, das es so noch nie gab! Ein föderiertes nomadisches CMS-Netzwerkwerkzeug, das wahre Privatsphäre im Netzwerk ermöglicht. Ein Werkzeug mit einem Funktionsmix aus Facebook, Dropbox, Google Calendar, Mediawiki, Evernote, Wallabag, Feedreader, und gleichzeitig geeignet für den eigenen Digital-Garden
https://maggieappleton.com/garden-history . Auch fast alle Prinzipien des IndiWeb https://indieweb.org/principles und auch so was wie POSSE https://indieweb.org/POSSE kann man mit Hubzilla gut umsetzen.Bei mir hat es sich so entwickelt: Mittlerweile habe ich in meinen vier Wänden einen eigenem Yunohost-Server
https://yunohost.org auf einem Raspi Pi laufen, der auch denselben Hubzilla-Channel hostet, den ich vor Jahren zuerst auf start.hubzilla.org erstellt und dann auf einen Sharedhost-Server geclont hatte. Alle meine Posts, Artikel, Wikis, Files und Kontakte, die ich seit meinen ersten Schritten mit Hubzilla in diesem Channel angelegt habe, sind damit erhalten geblieben und existieren hier noch. Das würde ich mal glatt gelebte digitale Souveränität nennen .Natürlich wollte ich in dem Bürgerzentrum, in dem ich aktiv war, meine Begeisterung verbreiten, aber damit kam ich nicht weit – da regieren weiter Facebook und Instagram. Mit Einigem ist man ja allgemein im Fediverse anderen Realitäten um Jahre voraus. Ich schätze, es braucht noch eine Weile, bis sich hier was bewegt.
Mit der Plattform
https://allmendenetz.de gibt es seit einem Jahr eine Demo-Site, mit der ich sozial engagierten Institutionen demonstrieren möchte, was im Fediverse möglich ist. Mal sehen, was sich daraus noch entwickelt.Jeden, der diesen langen Artikel bis hierher liest, würde ich gerne ermuntern, Hubzilla oder auch Streams auszuprobieren und sich auf die Funktionen einzulassen, ohne sich dabei gleich von der fehlenden schicken Verpackung den Spaß verderben zu lassen. Es lohnt sich garantiert.
Hubzilla ist unter der MIT Lizenz veröffentlicht: https://framagit.org/hubzilla/core
Streams findet man unter public domain hier: https://codeberg.org/streams
Weitere Links:
https://hubzilla.org
https://fediverse.party/en/hubzilla/
https://hubzilla.fediverse.observer/
https://medium.com/tag/hubzilla
https://medium.com/we-distribute/the-do-everything-system-an-in-depth-review-of-hubzilla-3-0-692204177d4e
https://medium.com/we-distribute/got-zot-mike-macgirvin-45287601ff19
https://pepecyb.hu/knowledgebase/
https://hub.pericles.hu/wiki/pepecyb8806/Pepes(20)Knowledgebase/Home
https://pepecyb.hu/hubzilla-in-der-dose-hid/
https://hub.pericles.hu/wiki/pepecyb8806/Hubzilla(20)in(20)der(20)Dose(20)(28)HiD(29)/Home
https://video.hardlimit.com/w/f32a07ec-5f5b-4629-a7e2-7db7993d218f
d
Konversationsmerkmale
Lädt...
Lädt...