Altruismo Eficaz

Impulsados por el aumento del poder de cómputo y los avances algorítmicos, los modelos de IA han mostrado un rápido progreso en los últimos años, pasando de chatbots básicos a sistemas capaces de razonar de forma compleja y resolver problemas. Los modelos base más grandes entrenados con conjuntos de datos masivos, combinados con técnicas de aprendizaje por refuerzo, han permitido a los modelos alc...

Este artículo analiza la propuesta de convertir a OpenAI en una entidad con fines de lucro. OpenAI fue fundada originalmente como una entidad sin ánimo de lucro porque en un principio se subestimó la cantidad de recursos financieros que se necesitarían para desarrollar la IA y porque había además una preocupación por el control corporativo sobre la IA avanzada. La creciente necesidad de capital de...

La mayoría de los países gastan menos del 1 % de su renta nacional en ayuda exterior; incluso pequeños aumentos podrían lograr grandes cambios.

Los últimos acontecimientos en el campo de la inteligencia artificial exigen una reevaluación fundamental de las estrategias de seguridad y gobernanza de la IA. Estos acontecimientos incluyen actualizaciones hacia plazos más cortos para la inteligencia artificial general (IAG), la presidencia de Trump, la aparición del paradigma de o1 (escalamiento del poder de cómputo en tiempo de inferencia), lo...

En esta entrevista, Jaime Sevilla, director de Epoch AI, analiza la evolución y el futuro del escalado de los modelos de inteligencia artificial. Sevilla explica los tres factores clave que determinan las capacidades de los modelos: poder de cómputo, datos y eficiencia algorítmica, así como las tres eras del aprendizaje automático identificadas por Epoch. La conversación aborda las leyes de escala...

Este texto presenta seis argumentos clave sobre la seguridad de la IA: la seguridad no se resolverá sola, un científico de la IA por sí solo no puede arreglarla, la alineación debe centrarse en el cumplimiento más que en los valores humanos, la detección importa más que la prevención, la interpretabilidad no es crucial para la alineación y la humanidad puede sobrevivir a una superinteligencia no a...

Laura Sofía Castro es cofundadora de ACTRA, una ONG dedicada a reducir la violencia en América Latina a través de programas basados en evidencia. Su primera iniciativa se centra en intervenciones de Terapia Cognitivo-Conductual (TCC). Anteriormente, trabajó en Innovations for Poverty Action (IPA), ayudando a distintas organizaciones y equipos gubernamentales a diseñar sistemas para medir y mejorar...

Muestro cómo un argumento estándar a favor de adelantar el progreso es extremadamente sensible al modo en que podría acabar la historia de la humanidad. Adelantar el progreso será bueno o malo en última instancia en la medida en que adelante o no el final de la humanidad. Como sabemos tan poco sobre la solución a esta cuestión fundamental, el argumento a favor de adelantar el progreso pierde fuerz...

El personal operativo permite a los demás empleados de una organización centrarse en las tareas principales para así maximizar la productividad. Una buena plantilla logra esto estableciendo sistemas en lugar de ocuparse de tareas individuales. Fungir como personal operativo ofrece una gran oportunidad de tener un impacto positivo debido a la alta demanda de personas con talento en este campo y al...

José Jaime Villalobos, afiliado al Legal Priorities Project y experto en derecho internacional, explora en este episodio cómo el derecho puede enfrentar problemas globales significativos, destacando su importancia para proteger a las generaciones futuras. También se refiere a la intersección entre el derecho y la tecnología, en particular la regulación de la biología sintética y la inteligencia ar...

Este artículo en una actualización del panorama del riesgo existencial desde la publicación de The Precipice. En él se revisan cuatro de los riesgos más graves para la humanidad: el cambio climático, la guerra nuclear, las pandemias y la inteligencia artificial. El riesgo de cambio climático está disminuyendo en la actualidad debido a los avances en el control de las emisiones de carbono, y una me...

Aunque las vías tradicionales para lograr un impacto positivo, como convertirse en médico, pueden no tener la influencia generalizada que uno espera en un principio, una sola persona puede lograr un cambio significativo. A menudo, este impacto se debe a la búsqueda de caminos poco convencionales o menos trillados, lo que demuestra que las contribuciones con mayor impacto pueden estar fuera de los...

En esta entrevista, Adrià Garriga-Alonso aborda los riesgos existenciales que podrían derivarse de los sistemas de inteligencia artificial, particularmente de los modelos de lenguaje a gran escala. Después de dar algunas respuestas generales sobre las características de estas tecnologías y el riesgo que conllevan, Garriga-Alonso explica la posibilidad de que los modelos de lenguaje a gran escala l...

Si quieres maximizar el impacto social de tu carrera profesional, céntrate en atender los problemas más graves a los que se enfrenta la sociedad. Este principio aparentemente obvio suele pasarse por alto, lo que lleva a muchas personas a perder oportunidades de contribuir de forma significativa. Al alinear tu trabajo con retos importantes, puedes aprovechar tus habilidades y conocimientos especial...

Contrariamente a lo que se suele pensar, la investigación revela que un salario alto o un bajo nivel de estrés no son las claves de un trabajo satisfactorio. En realidad, hay seis ingredientes fundamentales para una carrera profesional satisfactoria: un trabajo atractivo, beneficioso para los demás, que se corresponda con las habilidades de cada uno, que implique el apoyo de los compañeros, que ca...

Existen tres formas de contribuir al progreso científico. La forma directa es realizar un buen estudio científico y publicar sus resultados. La forma indirecta es ayudar a otros a que hagan una contribución directa. Un tercer enfoque es unir ambas formas de contribución y lograr un avance científico que, a su vez, acelere los avances científicos. Ningún avance de este tipo tendría una aplicabilida...

El yo que recuerda quiere enorgullecerse ahora a expensas del yo pasado, pero eso no es más que un deseo de sentir placer ahora, tan lícito como cualquier otro deseo del yo pasado. Sin embargo, así como no siempre es correcto sacrificar la felicidad propia por los demás, no siempre es correcto retrasar una gratificación presente por el placer de un yo futuro.

No es nada claro que los valores humanos vayan a dar forma a una ola de colonización del espacio originada en la Tierra, pero incluso si así fuera, parece más probable que la colonización del espacio aumente el sufrimiento total y no que lo reduzca. Dicho esto, hay muchas personas a quienes les importa mucho la supervivencia de la humanidad y su expansión por el cosmos, por lo que creo que los red...

El altruismo puede volverse exigente, sobre todo cuando comprendemos que nuestra decisión de donar es crucial para otras personas. Pero si el costo de esta exigencia es la desdicha, tenemos buenas razones para pensar que hemos alcanzado su límite.

Muchas de las intervenciones más importantes para reducir el riesgo biológico catastrófico no son de naturaleza biológica ni social. La mejora de los equipos de protección personal y el diseño de edificios resistentes a las pandemias, entre otras intervenciones importantes y desatendidas, necesitan más bien expertos en ingeniería de sistemas físicos.

En Asia meridional se registran algunos de los niveles más altos del mundo de contaminación atmosférica por micropartículas de 2,5 micras o menos, ponderados por la población. La mala calidad del aire contribuye significativamente a resultados negativos para la salud de los más de 1 800 millones de habitantes de la región, y la reducción de los niveles de micropartículas presentes en el aire podrí...

Obtener buenos resultados con los recursos disponibles es una cuestión moral de gran importancia para la salud global. Las consideraciones de costo-eficacia son una herramienta que permite determinar la relación entre recursos y resultados y poner de manifiesto lo que se pierde en términos morales para la salud global cuando no se prioriza correctamente. Por ejemplo, la intervención menos eficaz c...

La ganadería industrial está en el centro de algunos de los problemas más acuciantes de los seres humanos y de los animales no humanos. Para aliviar estas presiones ante la creciente demanda global de carne, debemos acelerar el desarrollo de proteínas alternativas que compitan con sus equivalentes animales convencionales en cuanto a sabor, precio y beneficios. Los estudiantes están en una posición...

Durante el presente, siglo nuestra civilización podría desarrollar tecnologías que permitan una rápida expansión por la galaxia, actualmente vacía. Por lo tanto, este siglo podría determinar todo el futuro de la galaxia durante decenas de miles de millones de años o más. Semejante perspectiva parece “descabellada” y deberíamos mirar con recelo cualquier opinión de que vivimos en una época tan espe...

¿Cuál es la mejor forma de distribuir la priorización del trabajo dirigido a reducir el riesgo existencial? En igualdad de condiciones, deberíamos priorizar la reducción de aquellos riesgos que puedan surgir primero. Esto se debe a que no sabemos con certeza cuándo tendremos que enfrentarnos a los distintos riesgos, a que esperamos rendimientos decrecientes del trabajo adicional y a que prevemos q...