Ein Sicherheitsforscher von Anthropic glaubt, dass es eine Wahrscheinlichkeit von mehr als 10% gibt, dass die Künstliche Intelligenz die gesamte Menschheit noch in diesem Jahrzehnt auslöschen wird. Diese Erklärung kommt, nachdem ein Kollege von ihm das Unternehmen verlassen hat, nachdem er vor den Gefahren des rücksichtslosen Wettrennens um die Schaffung einer künstlichen Superintelligenz gewarnt hatte.
Der Forscher wirft den großen Künstliche-Intelligenz-Unternehmen vor, die Menschheit durch dieses technologische Wettrennen ohne angemessene Sicherheitskontrollen zu gefährden. Die Warnung kommt zu einem Zeitpunkt, an dem verschiedene Unternehmen konkurrieren, um immer fortschrittlichere KI-Systeme zu entwickeln.
Der Rücktritt des Kollegen des Forschers erfolgt als direkte Antwort auf die Art und Weise, wie Anthropic und andere Giganten der Branche bei der Entwicklung von KI vorgehen, so die Warnung, die er vor dem Verlassen des Unternehmens vorbrachte.
Der Tek Notícias-Bericht hebt hervor, dass solche Warnungen vor existenziellen Risiken der KI unter den Arbeitnehmern des Technologiesektors zunehmen, die vor der Möglichkeit katastrophaler Folgen warnen, falls keine angemessenen Sicherheitsmaßnahmen implementiert werden.
