Google DeepMind hat das DeepMind Institute gegründet, eine neue öffentliche Plattform für die Debatte um künstliche allgemeine Intelligenz. Direktoren sind laut übereinstimmenden Berichten von TechCrunch und The Decoder DeepMind-Mitgründer Shane Legg, Google-Manager James Manyika und DeepMind-Chef Demis Hassabis. Zum Start hat das Institut vier Essays veröffentlicht, unter anderem zu Wirtschaftspolitik bei AGI-Disruption, zu Prinzipien menschlichen Wohlergehens, zu Modell-Transparenz und zu einem Bewertungsrahmen für Frontier-Modelle.
Im Zentrum der Berichterstattung steht Hassabis’ Essay, in dem er einen bereits im Juli 2026 skizzierten Vorschlag für eine US-geführte Standardbehörde für Frontier-KI-Modelle erneuert und konkretisiert: zunächst freiwillige Prüfung bis 30 Tage vor Veröffentlichung, später möglicherweise verpflichtend, ergänzt um nicht offengelegte „held-out“-Tests gegen gezieltes Umgehen der Prüfkriterien. Ein zweiter Essay der Sicherheitsforscher Rohin Shah und Anca Dragan plädiert dafür, die Nachvollziehbarkeit von Modell-Reasoning aktiv zu erhalten, statt ihren Rückgang als unvermeidlich hinzunehmen.
Die Gründung fällt in eine Phase, in der Hassabis – wie im bisherigen Bericht zur Führungsumbildung bei Google DeepMind dargestellt – die operative Leitung bereits an Koray Kavukcuoglu abgegeben hat und nun als Alphabet-Chefwissenschaftler auftritt. Belegt sind Gründung, Zweck und die genannten Direktoren durch zwei unabhängige Medien; die konkreten Essay-Details stammen im Wesentlichen aus einer einzelnen ausführlichen Quelle. Offen bleibt, ob aus dem Vorschlag tatsächlich eine Institution mit realer Prüfbefugnis wird und wie andere Frontier-Labs darauf reagieren.
Neue Bühne für einen alten Vorschlag
Google DeepMind hat eine neue öffentliche Plattform für die Debatte um künstliche allgemeine Intelligenz (AGI) geschaffen: das DeepMind Institute. Zum Start hat das Institut vier Essays veröffentlicht – und Demis Hassabis nutzt die Bühne, um seinen Vorschlag für eine US-geführte Prüfstelle für die leistungsfähigsten KI-Modelle erneut vorzutragen und weiter auszuarbeiten. Die Grundidee ist nicht neu: Hassabis hatte eine solche Standardbehörde bereits im Juli 2026 öffentlich skizziert. Neu ist, dass sie nun im institutionellen Rahmen des DMI mit konkreteren Verfahrensschritten verknüpft wird.
Was das Institut sein soll
Direktoren des DeepMind Institute sind laut übereinstimmenden Berichten von TechCrunch und dem deutschsprachigen Fachmedium The Decoder DeepMind-Mitgründer Shane Legg, Google-Manager James Manyika und DeepMind-Chef Demis Hassabis; Legg fungiert zusätzlich als Chefredakteur der Publikationsreihe. Das Institut soll laut eigener Ankündigung, wie sie in den Berichten zitiert wird, unterschiedliche Sichtweisen zwischen Google, Google DeepMind und der globalen Forschungscommunity sichtbar machen – ausdrücklich auch solche, die nicht übereinstimmen und sich mit neuen Erkenntnissen ändern können. Beiträge sollen nicht nur von Technologinnen und Technologen kommen, sondern auch aus Kunst, Geisteswissenschaften und Politik, wie The Decoder berichtet.
Der Vorschlag: eine Prüfstelle für Frontier-Modelle
Im Kern von Hassabis’ Essay steht laut TechCrunch die Idee eines von den USA initiierten Standards-Rats, der die fortschrittlichsten KI-Modelle bewertet. In einer ersten Phase sollen Entwicklerfirmen ihre Modelle freiwillig bis zu 30 Tage vor Veröffentlichung zur Prüfung einreichen. Habe sich das Bewertungssystem als wirksam erwiesen, könnte das Bestehen dieser Tests zur Voraussetzung für die Marktzulassung von Frontier-Modellen in den USA werden. Die Prüfverfahren sollen zunächst gemeinsam mit den KI-Unternehmen entwickelt werden, langfristig aber auch nicht offengelegte, sogenannte „held-out“-Tests umfassen, um zu verhindern, dass Labore ihre Modelle gezielt auf bekannte Prüfungen zuschneiden. Hassabis habe laut TechCrunch zudem angedeutet, der Rahmen könne verschärft werden, sollte sich die Lage zuspitzen – bis hin zu einer koordinierten Verlangsamung unter Frontier-Entwicklern. Dass ein solcher Rat tatsächlich in dieser Form entsteht, ist damit nicht gesagt: Es handelt sich um einen Vorschlag aus der Feder eines Google-Direktors, nicht um eine beschlossene Regulierung.
Zweite Front: Transparenz des Modell-Denkens
Ein weiterer Essay der DeepMind-Sicherheitsforscher Rohin Shah und Anca Dragan behandelt laut TechCrunch ein technisches Kernproblem der KI-Sicherheitsdebatte: das schrumpfende Zeitfenster, in dem sich das Schritt-für-Schritt-Reasoning eines Modells noch nachvollziehen und kontrollieren lässt. Die Autoren argumentieren, dieser Rückgang an Nachvollziehbarkeit sei keine Naturgesetzlichkeit neuer Architekturen, sondern eine gestaltbare Design-Entscheidung. Sie schlagen vor, den Anteil an „opaker sequenzieller Tiefe“ – also Berechnung, die ein Modell ohne lesbare Zwischenschritte durchführt – zu begrenzen oder Entwicklerfirmen zum Nachweis zu verpflichten, dass auch weniger transparente Systeme weiterhin überwachbar bleiben. Die beiden weiteren angekündigten Essays zu Wirtschaftspolitik bei AGI-Disruption und zu Prinzipien menschlichen Wohlergehens werden in den vorliegenden Berichten nur knapp erwähnt, ohne inhaltliche Details.
Vorgeschichte
Die Institutsgründung fällt in eine Phase, in der sich Hassabis’ Rolle bei Google bereits verschoben hat: Wie im bisherigen Bericht zur Führungsumbildung bei Google DeepMind dargestellt, hat er die operative Leitung des KI-Labors im August 2026 an Koray Kavukcuoglu abgegeben und firmiert seither als Chair von DeepMind sowie als Chefwissenschaftler von Alphabet. Das DeepMind Institute und die darin veröffentlichten Essays passen zu diesem bereits berichteten Rollenwechsel hin zu einer stärker wissenschaftlich-programmatischen, öffentlich sichtbaren Funktion – beantworten aber nicht die dort offen gebliebene Frage, wie sich seine Zuständigkeiten künftig konkret von jenen Kavukcuoglus abgrenzen.
Einordnung
Für die Öffentlichkeit in Österreich und der EU ist die unmittelbare Relevanz begrenzt: Der Vorschlag zielt auf ein US-amerikanisches Aufsichtsmodell und bislang liegt keine Stellungnahme von EU-Institutionen oder anderer Frontier-Labs wie OpenAI oder Anthropic dazu vor. Zu bedenken ist außerdem, dass der Vorschlag von einem Direktor eines der größten KI-Unternehmen selbst stammt – eine Selbstregulierungsidee mit möglichem Eigeninteresse, kein neutraler Regulierungsentwurf. Wie belastbar die von DeepMind-Direktoren vertretene Einschätzung ist, AGI stehe „kurz bevor“, lässt sich unabhängig nicht überprüfen; es handelt sich um eine Position der Institutsgründer selbst, nicht um einen gesicherten Fakt.
