Altruismo Eficaz

Fomentar la creatividad, la asunción de riesgos y la competencia, sin perder de vista los riesgos

El razonamiento moral sincero puede conducir a conclusiones muy contraintuitivas o extremas, lo que suscita preocupaciones sobre el descuido de los intereses humanos inmediatos en favor de causas especulativas y la posible justificación de comportamientos fanáticos. Estos dos riesgos —la «inundación moral» y la acción extremista— pueden mitigarse distinguiendo entre la teoría ideal y la práctica i...

¿Te sientes atascado a la hora de tomar una decisión relacionada con tu carrera profesional? Nos hemos basado en décadas de investigación en psicología cognitiva para encontrar un enfoque que realmente te ayude a avanzar.

Los rápidos avances en inteligencia artificial, impulsados por el crecimiento exponencial del poder de cómputo y los datos de entrenamiento, indican que la inteligencia artificial podría automatizar pronto prácticamente todo el trabajo cognitivo y físico humano. Esta trayectoria apunta a una aceleración del progreso científico y económico, en la que siglos de avances decisivos podrían producirse e...

Descubre las oportunidades de carrera profesional en el ámbito de la investigación en macroestrategia de IA: las habilidades que necesitas, las principales empresas que contratan y cómo dar los primeros pasos en este campo con impacto.

Desde ejercer presión sobre los responsables de la toma de decisiones hasta movilizar a los movimientos de base, los defensores de la seguridad de la IA impulsan un cambio real.

La seguridad de la IA necesita algo más que investigadores. Descubre las carreras profesionales en este sector en ámbitos como la comunicación, las operaciones y la estrategia, y descubre cómo dar tus primeros pasos en este campo en expansión.

¿Podría ser el trabajo en los riesgos asociados a la IA la elección de carrera profesional con mayor impacto en la actualidad? Descubre por qué la IA puede provocar un cambio social rápido y drástico, y qué puedes hacer al respecto.

La clasificación de la seguridad de la IA como un «asalto de Pascal» suele basarse en un malentendido fundamental sobre la distinción entre riesgo de base e impacto marginal. En términos de la teoría de la decisión, la relevancia de una posible intervención no viene determinada por la probabilidad absoluta de un resultado catastrófico —a menudo citada como «p(doom)»—, sino por la probabilidad marg...

El escepticismo inicial sobre los riesgos asociados a la inteligencia artificial (IA) dentro del movimiento del altruismo eficaz solía calificar esas preocupaciones como distracciones especulativas que desviaban la atención de las prioridades filantrópicas establecidas, como la salud global y el bienestar animal. Este escepticismo se veía reforzado con frecuencia por heurísticas que daban priorida...

La productividad sistémica viene determinada exclusivamente por el componente más lento —o cuello de botella— de un proceso. Las mejoras en la eficiencia de los segmentos que no constituyen un cuello de botella no aumentan la producción total y, a menudo, provocan un desperdicio de recursos debido a la acumulación de existencias sin procesar o a una supervisión administrativa excesiva. En entornos...

Se prevé que la inteligencia artificial (IA) avanzada acelere los descubrimientos científicos a un ritmo sin precedentes, lo que podría condensar décadas de investigación en unos pocos años. Aunque beneficiosa para la medicina y la tecnología, esta rápida evolución corre el riesgo de ir más allá de los protocolos de seguridad mundiales y la supervisión institucional. El principal peligro radica en...

La predicción de la llegada de la inteligencia artificial transformadora se caracteriza por una profunda incertidumbre, lo que hace que las estimaciones puntuales o los debates binarios del tipo «a corto plazo frente a largo plazo» resulten insuficientes para la planificación estratégica. Un enfoque epistemológicamente humilde requiere adoptar distribuciones de probabilidad amplias que abarquen un...

Los esfuerzos actuales por garantizar la seguridad de la IA superinteligente carecen del rigor institucional y la seriedad técnica necesarios para mitigar el riesgo existencial, lo que sugiere una probabilidad de extinción humana de al menos el 25 % si se mantiene la trayectoria actual. A diferencia de precedentes de ingeniería de alto riesgo, como el programa Apolo, el desarrollo contemporáneo de...

¿Qué ocurre cuando la IA pasa de ser una herramienta a convertirse en un trabajador? Analizamos los bucles de realimentación que podrían acelerar radicalmente el cambio tecnológico e industrial.

El rápido avance hacia la inteligencia artificial general (IAG) requiere una mejora proporcional en la toma de decisiones sociales para hacer frente a situaciones cada vez más delicadas y plazos de desarrollo cada vez más ajustados. Las instituciones humanas suelen sufrir fallos epistémicos y déficits de coordinación, que los sistemas especializados de IA están en condiciones únicas de mitigar. Al...

La tecnología avanzada de IA puede permitir a sus creadores, o a otras personas que la controlen, intentar y lograr una acumulación de poder social sin precedentes. En determinadas circunstancias, podrían utilizar estos sistemas para tomar el control de economías, ejércitos y gobiernos enteros. Este tipo de toma de poder por medio de la IA supondría una grave amenaza para el resto de la humanidad.

Los artículos de Wikipedia son muy leídos y gozan de gran credibilidad; al mismo tiempo, muchos artículos, especialmente en campos especializados, están incompletos, desactualizados o mal redactados. Por lo tanto, mejorar los artículos de Wikipedia es una actividad con un gran impacto potencial, especialmente para las personas con motivación altruista, ya que la edición de Wikipedia probablemente...

Las principales empresas tecnológicas están desarrollando activamente sistemas de inteligencia artificial diseñados para superar el rendimiento humano en los ámbitos más importantes desde el punto de vista económico y militar. Estos sistemas están pasando de ser comparadores de patrones pasivos a agentes autónomos que persiguen objetivos y son capaces de planificar y ejecutar acciones complejas en...

Se necesita un marco de gobernanza inmediato para gestionar los retos y riesgos asociados a la rápida «explosión de inteligencia» tecnológica impulsada por la IA avanzada. Este marco se centra en el establecimiento de una convención global que se activaría al definir un umbral específico y verificable. Dicho umbral se caracterizaría por unos parámetros técnicos y sería confirmado por un panel de e...

El principio Maxipok, que afirma que maximizar la probabilidad de evitar una catástrofe existencial debe ser la prioridad absoluta para mejorar el futuro a largo plazo, se basa en una suposición implícita de dicotomía: que los resultados futuros son fuertemente bimodales, agrupándose en estados casi óptimos o casi inútiles. Esta visión dicotómica es cuestionada. Los argumentos que sugieren que las...

Quizás pienses que una organización benéfica es algo que se hace con el dinero suelto que te sobra o apoyando a un amigo que participa en una carrera local. Así es como solíamos pensar, hasta que descubrimos lo mucho que se puede lograr con una pequeña donación a las organizaciones benéficas adecuadas.

Norman Borlaug no ganó millones, pero su investigación salvó millones de vidas. Uno de los errores más comunes que hemos encontrado sobre 80.000 Horas es que nos centramos exclusiva o predominantemente en ganar para donar. Esta entrada del blog tiene como objetivo dejar claro que esto no es así. Es más, la proporción de personas para las que creemos que ganar para donar es la mejor opción ha dismi...

El principio fundamental del altruismo eficaz (EA, por sus siglas en inglés), es decir, el compromiso de maximizar el bien a través de la evidencia y la costo-eficacia, debe evaluarse en función de su impacto práctico y no de su trivialidad filosófica. Esta perspectiva desafía la opinión de que el mensaje fundamental del EA es poco interesante simplemente porque parece conceptualmente obvio. Si bi...

El altruismo eficaz se define como la adopción de medidas destinadas a beneficiar a los demás de la manera más óptima posible, basándose en evidencia y análisis minuciosos. El autor observa un malentendido entre quienes afirman estar en desacuerdo con el altruismo eficaz y lo que realmente defiende y pretende este movimiento. Si bien existe un acuerdo básico sobre la idea central de las acciones b...