Mrinank Sharma, exresponsable del área de salvaguardas de seguridad en inteligencia artificial en la firma Anthropic hasta el 9 de febrero, alertó sobre el riesgo mundial derivado de las crisis interconectadas relacionadas con la inteligencia artificial. Sharma, quien renunció tras dos años en la empresa, afirmó en su carta que actualmente el mundo enfrenta peligros que van más allá de los desafíos tecnológicos, evidenciando una serie de crisis que se desarrollan simultáneamente. En su mensaje, Sharma destacó los dilemas éticos y la complejidad de actuar con integridad en un entorno de rápidos avances en la IA. "Hay tanto aquí que me inspira y también me preocupa", expresó, resaltando los valores de determinación, brillantez y amabilidad que caracterizan a la cultura de Anthropic. Tras estudiar en San Francisco, Sharma llegó motivado por contribuir a la seguridad en la inteligencia artificial. Entre sus aportes se encuentran el análisis de la regulación de la IA, el desarrollo de defensas contra riesgos de bioterrorismo asistido por IA, la implementación de estas medidas y la elaboración de algunos de los primeros casos de seguridad en el sector. Recientemente, apoyó la instauración de mecanismos de transparencia interna y lideró proyectos que examinan cómo los asistentes de IA podrían afectar la humanidad. Sharma reconoció que mantener los valores personales en la toma de decisiones diarias es difícil, tanto en su organización como en la sociedad. Advirtió que enfrentar estos dilemas implica decisiones complicadas y, a veces, sacrificar aspectos importantes. La advertencia central de Sharma es que "el mundo está en peligro, no solo por la inteligencia artificial o armas biológicas, sino por una serie de crisis que se entrelazan en este momento". La renuncia refleja también su búsqueda de integridad y un deseo de contribuir en formas que consideren alineadas con sus principios. Informó que regresará al Reino Unido para dedicarse a la escritura, la exploración literaria y el trabajo comunitario, incluyendo el estudio de poesía y actividades de facilitación social. La salida de Sharma coincide con otras recientes en Anthropic y un contexto de mayor atención a la ética y seguridad en la inteligencia artificial. La empresa, fundada por exmiembros de OpenAI, ha promovido una imagen centrada en la protección frente a riesgos como el bioterrorismo y la pérdida de humanidad. Incluso su CEO, Dario Amodei, ha emitido advertencias públicas sobre el desarrollo tecnológico sin un marco ético sólido. Para Sharma, el mayor reto es que la sabiduría humana evolucione al mismo ritmo que su capacidad de transformar la realidad. Al despedirse, llamó a mantener ese equilibrio frente a las amenazas futuras. A pesar de estas advertencias, la inteligencia artificial continúa impulsando avances en sectores como la salud, educación y investigación. Expertos sostienen que, con regulaciones sólidas y participación activa de la comunidad científica, estas tecnologías pueden resolver problemas complejos y mejorar la calidad de vida en todo el mundo. No obstante, episodios como la renuncia de Sharma reavivan el debate ético sobre su desarrollo y fortalecen las medidas de supervisión en la industria tecnológica.
