Shyam Sankar vom Technologieunternehmen Palantir verurteilte öffentlich die Ideologie des „Effektiven Altruismus", die seiner Meinung nach die Bewegung für KI-Sicherheit geprägt hat. Seine Aussagen stellen eine starke Kritik an einer Denkrichtung dar, die die Debatte über die Risiken der KI erheblich beeinflusst hat.
Sankar charakterisierte die mit dieser Bewegung verbundenen Ansätze als „Putschversuch" und stellte die Gültigkeit und die Absichten hinter den vorherrschenden Strategien im Bereich der KI-Sicherheit in Frage. Diese Kritik entsteht im Kontext einer breiteren Debatte darüber, welche Methoden am besten geeignet sind, um die sichere Entwicklung der Technologie zu gewährleisten.
Der Palantir-Manager kritisierte insbesondere die Besessenheit von der Quantifizierung des „existenziellen Risikos" der künstlichen Intelligenz. Dieser Fokus auf spezifische Metriken und Berechnungen extremer Bedrohungen war ein zentrales Merkmal der mit dem Effektiven Altruismus verbundenen KI-Sicherheitsbewegung.
Der Artikel erscheint in einer Zeit, in der der Technologiesektor intensiv über die besten Praktiken und Philosophien für die verantwortungsvolle Entwicklung der künstlichen Intelligenz diskutiert, mit unterschiedlichen Ansichten darüber, wie die potenziellen Gefahren der Technologie angegangen werden sollen.
