Altruismo Eficaz

La disposición del altruismo eficaz a tomarse en serio ideas aparentemente extrañas, cuando está moderada por el sentido común, constituye una parte importante del valor que el movimiento puede ofrecer. La mayor parte de lo que hace el movimiento no suscita controversia, como destinar cientos de millones de dólares a programas de salud global y conseguir compromisos empresariales que han librado a...

¿Qué gravedad podría alcanzar la desalineación de la IA? Prácticamente la máxima posible.

El altruismo eficaz ha acabado tratando las campañas de bienestar de los animales de granja como la opción estratégicamente seria y ha dejado de lado la liberación animal y la promoción del cambio de dieta por considerarlas enfoques que ya se intentaron y fracasaron. Friedrich sostiene que esa lectura es precipitada: lo que fracasó fueron versiones concretas de esas estrategias en unas condiciones...

Richard Ngo sostiene que la distinción convencional entre el uso impropio de la IA y la desalineación carece de utilidad tanto a efectos técnicos como de gobernanza: a medida que los sistemas adquieren mayor capacidad de agencia, la forma de hacer un uso impropio de una IA consiste, en esencia, en ordenarle que actúe de forma autónoma, lo que difumina la frontera entre ambas categorías. Propone su...

Panorámica de cómo los avances en IA y biología sintética están reduciendo las barreras técnicas para crear patógenos de nivel pandémico. Aunque los modelos de frontera estadounidenses han implementado salvaguardas para consultas biológicas de doble uso, los modelos chinos líderes ofrecen protecciones mucho más débiles y muchas herramientas de diseño biológico de alto riesgo son de código abierto....

La tercera entrada de una serie de reflexiones breves de Neel Nanda sobre la productividad y la agencia. Nanda argumenta que alcanzar objetivos exige no sólo planificar, sino la habilidad más difícil y a menudo pasada por alto de actuar sobre esos planes, y que muchas personas sufren una brecha mental entre reconocer que deberían hacer algo y hacerlo. Enmarca el convertirse en un «agente» que actú...

Resumen de la tesis del ``desempoderamiento gradual'': incluso sin un evento catastrófico de desalineación, la automatización incremental por IA de la producción económica, la producción cultural y la gobernanza podría erosionar silenciosamente la influencia que hoy da peso a las preferencias humanas. Los autores sostienen que, cuando la participación económica, cultural y democrática deja de requ...

Este artículo explica los conceptos clave que surgen en el contexto de la alineación de la IA. Estos términos no son más que intentos de esbozar las ideas subyacentes, y la importancia radica precisamente en esas ideas. No existe un consenso estricto sobre qué nombre debe corresponder a cada idea, y cada persona utiliza los términos de forma diferente.1 Este artículo explica cómo utilizamos estos...

A medida que los modelos de lenguaje de vanguardia mejoran su capacidad para responder a consultas químicas y biológicas, la preocupación por el bioterrorismo impulsado con IA ha vuelto a ocupar un lugar destacado en el debate general sobre seguridad. Basándose en el Informe Internacional sobre Seguridad de la IA y en recientes demostraciones de chatbots que aconsejan a los usuarios cómo planear a...

Algunas decisiones estratégicas que puede tomar el movimiento del altruismo eficaz pueden ser difíciles de revertir. Un ejemplo es dotar a la imagen de marca del movimiento de un carácter explícitamente político. Otro es crecer hasta alcanzar un gran tamaño.

Las distinciones históricas entre plazos cortos y largos para el desarrollo de una inteligencia artificial de nivel humano se han desvanecido en gran medida, a medida que el consenso entre los expertos se inclina hacia el futuro cercano. Si bien los pronósticos sobre una IA avanzada en un plazo de dos décadas se consideraban antes especulativos, las proyecciones actuales, tanto de los líderes del...

Hace poco tuve una pequeña discusión porque alguien malinterpretó mis opiniones sobre la IA, así que he pensado en recopilarlas todas en un solo sitio para poder remitir a la gente allí cuando me pregunten.

Fomentar la creatividad, la asunción de riesgos y la competencia, sin perder de vista los riesgos

El razonamiento moral sincero puede conducir a conclusiones muy contraintuitivas o extremas, lo que suscita preocupaciones sobre el descuido de los intereses humanos inmediatos en favor de causas especulativas y la posible justificación de comportamientos fanáticos. Estos dos riesgos —la «inundación moral» y la acción extremista— pueden mitigarse distinguiendo entre la teoría ideal y la práctica i...

¿Te sientes atascado a la hora de tomar una decisión relacionada con tu carrera profesional? Nos hemos basado en décadas de investigación en psicología cognitiva para encontrar un enfoque que realmente te ayude a avanzar.

Los rápidos avances en inteligencia artificial, impulsados por el crecimiento exponencial del poder de cómputo y los datos de entrenamiento, indican que la inteligencia artificial podría automatizar pronto prácticamente todo el trabajo cognitivo y físico humano. Esta trayectoria apunta a una aceleración del progreso científico y económico, en la que siglos de avances decisivos podrían producirse e...

Descubre las oportunidades de carrera profesional en el ámbito de la investigación en macroestrategia de IA: las habilidades que necesitas, las principales empresas que contratan y cómo dar los primeros pasos en este campo con impacto.

Desde ejercer presión sobre los responsables de la toma de decisiones hasta movilizar a los movimientos de base, los defensores de la seguridad de la IA impulsan un cambio real.

La seguridad de la IA necesita algo más que investigadores. Descubre las carreras profesionales en este sector en ámbitos como la comunicación, las operaciones y la estrategia, y descubre cómo dar tus primeros pasos en este campo en expansión.

¿Podría ser el trabajo en los riesgos asociados a la IA la elección de carrera profesional con mayor impacto en la actualidad? Descubre por qué la IA puede provocar un cambio social rápido y drástico, y qué puedes hacer al respecto.

La clasificación de la seguridad de la IA como un «asalto de Pascal» suele basarse en un malentendido fundamental sobre la distinción entre riesgo de base e impacto marginal. En términos de la teoría de la decisión, la relevancia de una posible intervención no viene determinada por la probabilidad absoluta de un resultado catastrófico —a menudo citada como «p(doom)»—, sino por la probabilidad marg...

El escepticismo inicial sobre los riesgos asociados a la inteligencia artificial (IA) dentro del movimiento del altruismo eficaz solía calificar esas preocupaciones como distracciones especulativas que desviaban la atención de las prioridades filantrópicas establecidas, como la salud global y el bienestar animal. Este escepticismo se veía reforzado con frecuencia por heurísticas que daban priorida...

La productividad sistémica viene determinada exclusivamente por el componente más lento —o cuello de botella— de un proceso. Las mejoras en la eficiencia de los segmentos que no constituyen un cuello de botella no aumentan la producción total y, a menudo, provocan un desperdicio de recursos debido a la acumulación de existencias sin procesar o a una supervisión administrativa excesiva. En entornos...

Se prevé que la inteligencia artificial (IA) avanzada acelere los descubrimientos científicos a un ritmo sin precedentes, lo que podría condensar décadas de investigación en unos pocos años. Aunque beneficiosa para la medicina y la tecnología, esta rápida evolución corre el riesgo de ir más allá de los protocolos de seguridad mundiales y la supervisión institucional. El principal peligro radica en...

La predicción de la llegada de la inteligencia artificial transformadora se caracteriza por una profunda incertidumbre, lo que hace que las estimaciones puntuales o los debates binarios del tipo «a corto plazo frente a largo plazo» resulten insuficientes para la planificación estratégica. Un enfoque epistemológicamente humilde requiere adoptar distribuciones de probabilidad amplias que abarquen un...