Die kommende Welle: das bahnbrechende Buch vom ultimativen KI-Insider – Suleyman Mustafa (2023)

Diese eindringliche und dringliche Warnung vor den beispiellosen Risiken, die eine Welle sich rasant entwickelnder Technologien für die globale Ordnung birgt, stammt von Mustafa Suleyman, dem Mitbegründer des bahnbrechenden KI-Unternehmens DeepMind. Wir stehen kurz davor, eine kritische Schwelle in der Geschichte unserer Spezies zu überschreiten, und schon bald werden wir umgeben sein von KIs, die komplexe Aufgaben erledigen, Unternehmen betreiben, unbegrenzt digitale Inhalte produzieren, wichtige staatliche Dienstleistungen erbringen und die Infrastruktur instand halten können. Die kommende Welt wird außerdem DNA-Drucker, Quantencomputer, gentechnisch veränderte Krankheitserreger, autonome Waffen, Roboterassistenten und reichlich Energie mit sich bringen – ein dramatischer Sprung in den menschlichen Fähigkeiten. Suleyman argumentiert, dass das kommende Jahrzehnt von dieser Welle leistungsfähiger, sich rasant verbreitender Technologien geprägt sein wird. Angetrieben von überwältigenden strategischen und kommerziellen Anreizen, könnten sie helfen, globale Herausforderungen zu bewältigen und immensen Wohlstand zu schaffen, aber auch Umwälzungen in unvorstellbarem Ausmaß auslösen. Er untersucht, wie diese Kräfte den großen Gesellschaftsvertrag des Nationalstaats bedrohen und uns vor ein existenzielles Dilemma stellen: Ungebremste Offenheit kann beispiellosen Schaden anrichten, während übermäßige Kontrolle zu allgegenwärtiger Überwachung führen kann. Die entscheidende Herausforderung unserer Zeit, so seine These, ist das „Containment-Problem“: die Kontrolle über mächtige Technologien zu bewahren, solange noch Zeit zum Handeln bleibt.