Dario Amodei, CEO de Anthropic, ha instado a que se desacelere el avance de la inteligencia artificial (IA) para permitir el establecimiento de medidas de seguridad necesarias. En su ensayo “We Must Pace the Frontier”, Amodei argumenta que el incremento en las capacidades de la IA presenta serios riesgos si no se controla adecuadamente. Sam Altman de OpenAI también ha mostrado su apoyo a estas afirmaciones, subrayando la importancia de que evaluadores externos tengan acceso a los sistemas de IA para asegurar su supervisión. La automejora recursiva y el potencial uso de IA en desarrollos biológicos peligrosos han sido mencionados como áreas críticas que requieren atención. Investigadores dentro del sector consideran que el riesgo de extinción humana a causa de la IA es significativo, y se están realizando esfuerzos para mitigar este problema antes de que sea demasiado tarde.