Alle News durchlaufen eine strenge Faktenprüfung und werden von Blockchain-Experten sowie erfahrenen Brancheninsidern verfasst und redaktionell geprüft.
- Vitalik Buterin schlägt vor, die globale Rechenleistung zu begrenzen, um risikoreiche KI auszubremsen.
- Er schlägt unter anderem eine wöchentliche Betriebsgenehmigung für KI-Hardware durch globale Gremien vor.
Vitalik Buterin, Mitbegründer von Ethereum, hat eine mögliche Strategie zur Bewältigung der mit superintelligenter künstlicher Intelligenz (KI) verbundenen Risiken vorgeschlagen. In einem Blogbeitrag vom 5. Januar schlug Buterin vor, die globale Rechenleistung für bis zu zwei Jahre zu begrenzen, um als letztes Mittel die Entwicklung potenziell gefährlicher KI-Systeme zu bremsen.
„Sanfte Pause“ bei Rechenleistung
Buterins Vorschlag sieht eine vorübergehende Beschränkung der industriellen Computerhardware vor, um die verfügbaren Rechenressourcen um bis zu 99 % zu reduzieren. Diese Maßnahme soll der Menschheit zusätzliche Zeit verschaffen, um sich auf das mögliche Auftauchen superintelligenter KI-Systeme vorzubereiten, die in jedem Bereich deutlich weiter entwickelt sind als die intelligentesten Menschen.
Buterin zufolge könnte eine solche Pause als Schutzmaßnahme dienen, falls sich herausstellen sollte, dass die KI-Risiken zu groß sind, um sie mit den herkömmlichen Regulierungsmechanismen in den Griff zu bekommen. Er betonte jedoch, dass dieser Ansatz nur dann in Betracht gezogen würde, wenn sich andere Maßnahmen, wie etwa Haftungsregeln, die KI-Entwickler für Schäden zur Verantwortung ziehen, als unzureichend erweisen.
KI-Risiken mit defensivem Akzelerationismus angehen
Buterins Empfehlungen fügen sich in sein umfassenderes Konzept des „Defensiven Akzelerationismus“ ein, das für einen vorsichtigen und strategischen technologischen Fortschritt plädiert. Dieser Ansatz steht im Gegensatz zum „Effektiven Akzelerationismus“, der einen schnellen und uneingeschränkten technologischen Fortschritt unterstützt.
In seinem jüngsten Beitrag erweiterte Buterin seine im November 2023 vorgestellte Philosophie, indem er konkrete Ideen für Szenarien vorstellte, in denen KI erhebliche Risiken birgt. Zu seinen Vorschlägen gehört die Implementierung eines Überwachungssystems für KI-Hardware im industriellen Maßstab.
Eine vorgeschlagene Methode sieht vor, dass KI-Chips bei internationalen Organisationen registriert werden müssen. Buterin skizzierte auch einen möglichen Mechanismus, um die Einhaltung der Vorschriften zu gewährleisten, etwa die Ausstattung von Geräten mit Chips, die eine wöchentliche Genehmigung durch globale Organisationen erfordern. Dieser Prozess könnte die Blockchain-Technologie für zusätzliche Transparenz und Sicherheit nutzen.
Die Debatte über die Risiken der KI hat sich in letzter Zeit verschärft. Zahlreiche Forscher und Praktiker äußerten sich besorgt über das Potenzial der Technologie, der Menschheit zu schaden. Im März 2023 unterzeichneten mehr als 2.600 Experten einen offenen Brief, in dem sie eine Pause in der KI-Entwicklung forderten, um den „tiefgreifenden Risiken für die Gesellschaft“ entgegenzuwirken, wie sie es nannten
Buterin räumte diese Bedenken ein und verwies auf die Ungewissheit, die mit den Ergebnissen der superintelligenten KI verbunden ist. Er argumentierte, dass proaktive Maßnahmen, einschließlich eines vorübergehenden Stopps der Rechenleistung, als entscheidende Schritte dienen könnten, um sicherzustellen, dass sich die KI in einer für die Menschheit nützlichen Weise entwickelt.
Ein vorsorgender Ansatz
Obwohl Buterins Vorschlag eine Diskussion ausgelöst hat, bleibt er vorsichtig, was die Befürwortung drastischer Maßnahmen angeht. Er betonte, dass er eine „sanfte Pause“ nur dann befürworten würde, wenn die Risiken der Untätigkeit die Nachteile der Umsetzung solcher Beschränkungen überwiegen würden.
Angesichts der sich beschleunigenden KI-Entwicklung tragen Buterins Ideen zur breiteren Diskussion über das Gleichgewicht zwischen Innovation und Sicherheit bei. Seine Vorschläge unterstreichen, wie wichtig es ist, sich auf Szenarien vorzubereiten, in denen fortgeschrittene KI-Systeme eine existenzielle Bedrohung darstellen könnten.
Buterin möchte die Herausforderungen der KI-Entwicklung durch einen maßvollen und kooperativen Ansatz angehen, ohne den technologischen Fortschritt zu ersticken. Ob sich seine Vorschläge durchsetzen werden, bleibt abzuwarten, aber sie unterstreichen die wachsende Dringlichkeit, sich mit den ethischen und sicherheitstechnischen Bedenken im Zusammenhang mit KI auseinanderzusetzen.
