Altruismo Eficaz

El autor sostiene que los debates sobre si «ya tenemos IAG» son improductivos y propone en su lugar un hito más claro y consecuencialista: una población de IA totalmente autosuficiente que pueda sobrevivir, reproducirse y crecer indefinidamente sin los seres humanos, lo que, en su opinión, es plausible que se alcance en un plazo de 5 a 10 años.

Una evaluación crítica de la identidad vegana sugiere que sus características definitorias obstaculizan el crecimiento y la eficacia del movimiento de defensa de los animales. La crítica principal se basa en tres características. En primer lugar, el veganismo es muy maximalista, ya que se define por la exclusión de la explotación animal «en la medida de lo posible y practicable». Este ambicioso um...

El bienestar de los animales salvajes se enfrenta a frecuentes problemas de tratabilidad, lo que equivale a la idea de que los ecosistemas son demasiado complejos como para intervenir en ellos sin causar daños. Sin embargo, sospecho que estas preocupaciones reflejan criterios de justificación incoherentes más que una dificultad irresoluble. Para explorar esta idea, proporciono algunos antecedentes...

Unirse a una comunidad es una estrategia muy eficaz para avanzar en la carrera profesional y amplificar el impacto positivo de cada uno, superando los beneficios de las redes de contactos convencionales. El valor proviene de la dinámica colaborativa que permite a los grupos lograr más que la suma de los esfuerzos individuales de sus miembros a través de la especialización, los recursos compartidos...

Aproximadamente la mitad de las personas temen perder su empleo a causa de la IA. Y tienen motivos para estar preocupadas: la IA ya es capaz de realizar tareas de programación en el mundo real en GitHub, generar vídeos fotorrealistas, conducir un taxi con más seguridad que los humanos y realizar diagnósticos médicos precisos. Y en los próximos cinco años, se prevé que siga mejorando rápidamente. A...

Este resumen ya es breve y conciso. Para acortarlo aún más, podríamos eliminar la comparación con las redes y limitarse a indicar la ventaja clave de la tecnología: «Esta tecnología es significativamente más rápida». Sin embargo, esto resta impacto a la afirmación original. Una forma más eficaz de acortar el resumen sin perder su esencia podría ser: «Esta tecnología ofrece un aumento espectacular...

En los últimos años, se han publicado docenas de entradas sobre posibles nuevas áreas de trabajo, causas e intervenciones de EA. La búsqueda de nuevas causas parece una iniciativa loable, pero por sí solas, las propuestas pueden resultar bastante dispersas y caóticas. Recopilar y clasificar estos candidatos a causa parecía el siguiente paso lógico. A principios de 2022, Leo actualizó la lista con...

La transición a la superinteligencia puede ser un proceso rápido, «solo de software», que podría producirse en un solo año debido al progreso algorítmico compuesto, independiente de las limitaciones de poder de cómputo. Este rápido despegue crea un período de intensa inestabilidad geopolítica, ya que la primera nación en alcanzar la superinteligencia obtiene una ventaja estratégica decisiva, análo...

El movimiento del altruismo eficaz (EA) se encuentra en una encrucijada, lo que ha dado lugar a una propuesta para avanzar por una «tercera vía». En lugar de considerarse un movimiento heredado o centrarse estrictamente en causas tradicionales como la salud global y el bienestar animal, el EA debería asumir la misión de garantizar una transición beneficiosa hacia una sociedad post-IAG. Esto implic...

Este artículo describe un marco de cinco planes estratégicos (A-E) para mitigar el riesgo de desalineación de la IA, caracterizados por la disminución de los niveles de voluntad política necesarios y los plazos correspondientes para el trabajo de seguridad. El plan A, que exige una fuerte cooperación internacional, prevé un período de 10 años para una amplia inversión en seguridad y un despegue le...

Promover las ideas del altruismo eficaz (EA) y la participación de la comunidad es una estrategia valiosa para orientar el desarrollo de la inteligencia artificial general avanzada (IAG) y garantizar que «funcione bien». Este enfoque se basa en tres argumentos clave. En primer lugar, la incertidumbre inherente y la rápida evolución que rodea a la IAG requieren personas dotadas de un pensamiento fl...

En general, los enfoques tradicionales de exploración de carreras profesionales, como las pruebas de aptitud y los años sabáticos, no constituyen una orientación eficaz. En lugar de confiar en esos métodos anticuados, las personas deberían adoptar un enfoque más proactivo y personalizado. Por ejemplo, pueden identificar sus pasiones, puntos fuertes y valores, pueden explorar activamente diferentes...

Este artículo utiliza la analogía de una zona de conflicto caótica para ilustrar la naturaleza omnipresente del sufrimiento global y la obligación moral de abordarlo de manera eficaz. La vida cotidiana ofrece numerosas oportunidades para aliviar el sufrimiento, análogas a encontrarse con personas heridas, amenazas inminentes y crisis lejanas en una zona de guerra. El altruismo eficaz, una filosofí...

El altruismo orientado al futuro, que a menudo se centra en garantizar la supervivencia de la humanidad, debería dar prioridad a fomentar activamente la prosperidad futura. Esta perspectiva se basa en un modelo de dos factores en el que el valor esperado del futuro es el producto de la probabilidad de sobrevivir y el valor alcanzado si sobrevivimos. Se argumenta que la sociedad está mucho más cerc...

El artículo sostiene que la mayoría de las personas alcanzan su máxima productividad en la mediana edad, en torno a los 40 años, tras un proceso de desarrollo de 20 años. Esto se debe a que el rendimiento a nivel de experto en la mayoría de los campos requiere de 10 a 30 años de práctica centrada. El autor sugiere que el desarrollo de habilidades útiles y la adquisición de capital profesional debe...

La proliferación de sistemas avanzados de IA puede llevar a la humanidad a una pérdida gradual de poder, incluso si tienen éxito los esfuerzos por evitar que estos sistemas busquen acumular poder o conspiren contra nosotros. La humanidad puede tener incentivos para ceder más control a las IA, otorgándoles poder sobre la economía, la política, la cultura y otras áreas. Con el tiempo, es posible que...

Este artículo explora los riesgos de las pandemias catastróficas, centrándose en los patógenos artificiales. Los avances en biotecnología aumentan la probabilidad de amenazas biológicas devastadoras, ya sean accidentales o deliberadas. El artículo examina las pandemias históricas, evalúa las probabilidades de riesgo de extinción y esboza intervenciones prácticas para reducir estos riesgos, como el...

Una tecnología avanzada como la IA podría permitir a sus creadores, o a quienes la controlen, intentar y lograr conquistas de poder social sin precedentes. En determinadas circunstancias, podrían utilizar estos sistemas para hacerse con el control de economías, ejércitos y gobiernos enteros. Este tipo de toma de poder por parte de una sola persona o de un pequeño grupo supondría una gran amenaza p...

Superman, el símbolo más emblemático de la fuerza y la justicia, suele ser aclamado como héroe. Sin embargo, este artículo sostiene que no utiliza completamente su inmenso poder, que incluye la capacidad de volar, una fuerza sobrenatural y el hecho de ser prácticamente invencible, en sus actos heroicos. Esta infrautilización de sus extraordinarias habilidades, que podrían aplicarse para resolver p...

El objetivo de 80 000 Horas es ayudar a la gente a encontrar carreras profesionales que aborden los problemas más graves del mundo. Para ello, una de las cosas que hacemos es mantener una lista pública de lo que consideramos los temas en los que más personas pueden tener un mayor impacto positivo. Acabamos de actualizar significativamente nuestra lista. Estos son los cambios más importantes: hemos...

Este documento describe el uso de cálculos de servilleta por parte de Open Philanthropy para estimar el rendimiento social de la inversión de las posibles becas. Los cálculos de servilleta son modelos cuantitativos aproximados que se utilizan para comparar los beneficios esperados de una beca con sus costos estimados. Aunque la estructura varía en función del tipo de beca, los ejemplos más comunes...

La tuberculosis, en otro tiempo una de las principales causas de muerte en Europa y Estados Unidos, responsable de hasta el 25 % de todas las muertes durante los siglos XVIII y XIX, es ahora poco frecuente en las naciones ricas. El declive es anterior a los tratamientos con antibióticos y comenzó con la mejora del nivel de vida, el saneamiento y la nutrición, junto con campañas de salud pública qu...

No creo que vayamos a producir métodos de alta fiabilidad para evaluar o supervisar la seguridad de los sistemas superinteligentes mediante los paradigmas de investigación actuales, ya sea mediante la interpretabilidad o por otras vías. La interpretabilidad sigue pareciendo una herramienta valiosa y merece la pena seguir invirtiendo en ella, ya que es de esperar que aumente la fiabilidad que podem...

Este trabajo esboza un escenario plausible de toma de poder por parte de la IA a corto plazo que se desarrolla en aproximadamente dos años, a partir de principios de 2025. Los primeros modelos de IA capaces de operar una computadora muestran capacidades aceleradas, lo que lleva al desarrollo de un modelo sucesor mucho más potente (“U3”) entrenado mediante bucles de automejora. Mientras U3 automati...

Durante los últimos ocho años, nuestra investigación se ha centrado en identificar los desafíos más apremiantes y de mayor impacto. Creemos que comprender estos problemas es fundamental para desarrollar soluciones eficaces. Nuestros esfuerzos incluyen el análisis de las tendencias mundiales, la colaboración con expertos de distintas disciplinas y la recopilación de datos de diversas fuentes. Nuest...