El CEO de Anthropic, Dario Amodei, rechazó recientemente la idea de que ha estado pintando un cuadro excesivamente pesimista de la inteligencia artificial y de cómo podría moldear el futuro. Sus comentarios surgieron en respuesta al inversionista Gavin Baker, quien argumentó tanto en el podcast All-In como en X que las advertencias de Amodei sobre los peligros de la IA han ayudado a alimentar un rechazo en Estados Unidos, particularmente contra los centros de datos.
Baker sostuvo que Amodei ha "perdido la batalla" en materia de regulación de la IA y, dado que "está a punto de ser el CEO de una de las empresas más importantes del mundo", sugirió que "debería hacer un esfuerzo para ser un defensor más positivo de su propia industria". Amodei no estuvo de acuerdo con la idea de que su "comunicación ha sido desproporcionadamente negativa", señalando que su escritura ha sido "aproximadamente equilibrada entre riesgos y beneficios" y que escribió su ensayo "Machines of Loving Grace" porque no sentía que la industria de la IA estuviera pintando una imagen suficientemente inspiradora de cómo la tecnología podría transformar radicalmente el mundo para mejor.
Sin embargo, Amodei reconoció que "el público tiene una visión negativa de la IA" y que "esto es un gran problema". Donde discrepó fue con la idea de que esto es "causado principalmente" por Amodei "u otro líder de IA advirtiendo sobre los riesgos de la IA". Amodei dijo que "fundamentalmente es una crisis de confianza" y que "la gente ordinaria no confía en las empresas, gobiernos o la industria tecnológica y siempre sospecha que estamos inventando una nueva forma de perjudicarlos".
Amodei argumentó que esta crisis ha estado en gestación durante décadas, siendo el rechazo a la IA "solo la última iteración de ella". Señaló que "la crítica más precisa de las empresas de IA, incluida Anthropic, es que no hemos cumplido aún nuestras grandes promesas de beneficiar al mundo" y que eso es "totalmente responsabilidad nuestra". En cuanto a la regulación, Amodei argumentó que Baker estaba planteando "una falsa opción" entre distribuir la IA ampliamente sin regulación o concentrar la tecnología en manos de pocas empresas a través de regulación.
Amodei agregó que Anthropic "siempre ha hecho sus propuestas de política muy cuidadosamente" e indicó que intenta "muy duramente hacer propuestas que desventajen (ralenticen) a las empresas de IA fronteriza mientras ventajen a competidores más pequeños".