La IA ahora es un administrador destructivo de la cultura de la dieta

Tras la cobertura de varios medios de comunicación que describen las respuestas de Tessa, el liderazgo en NEDA finalmente decidió suspender a Tessa a fines de mayo. "Tessa permanecerá fuera de línea mientras completemos una revisión completa de lo que sucedió", dijo la directora de operaciones de NEDA, Elizabeth Thompson, en una declaración enviada por correo electrónico a Well+Good en junio. La organización dice que el desarrollador del bot agregó características generativas de inteligencia artificial (IA) a Tessa sin su conocimiento o consentimiento. (Un representante del desarrollador de software, Cass, dijo al Wall Street Journal que operaba de acuerdo con su contrato con NEDA.)

Todo el incidente sonó de alarma para muchas en el espacio de recuperación de trastornos de alimentación. Sin embargo, diría que la inteligencia artificial a menudo funciona exactamente como se diseña. "[AI está] reflejando la opinión cultural de la cultura de la dieta", dice Christine Byrne, RD, MPH, una dietista anti-dieta que se especializa en el tratamiento de los trastornos alimentarios.

Como el espejo mágico en Blanco como la nieve, que respondió a cada pregunta de la reina malvada, buscamos AI para darnos respuestas claras en un mundo incierto, a menudo contradictorio. Y como ese espejo mágico, Ai nos refleja la verdad sobre nosotros mismos. Para la reina malvada, eso significaba ser el más justo de la tierra. Pero en nuestra sociedad actual de dieta, AI, simplemente está "reflejando" la fijación duradera de Estados Unidos en el peso y la delgadez, y cuánto trabajo aún tenemos que hacer para romper ese hechizo.

Cómo funciona el consejo con alimentación de IA

"La inteligencia artificial es cualquier tecnología relacionada con la computadora que intenta hacer las cosas que asociamos con los humanos en términos de pensamiento y aprendizaje", dice Kush Varshney, PhD, distinguido científico y gerente de investigación de IBM Research's Thomas J. Watson Research Center en Yorktown Heights, NY. AI utiliza algoritmos complejos para imitar habilidades humanas como reconocer el habla, tomar decisiones e ver e identificar objetos o patrones. Muchos de nosotros usamos tecnología con AI todos los días, como pedirle a Siri que establezca un recordatorio para tomar medicamentos o usar Google Translate para comprender esa palabra en el menú de un restaurante francés.

Hay muchas subcategorías diferentes de IA; Aquí nos centraremos en herramientas de IA basadas en texto como Chatbots, que rápidamente se están volviendo más sofisticadas según el debut del lanzamiento de Chatbot Chatgpt en el otoño 2022. "[Los chatbots basados ​​en IA] son ​​muy, muy buenos para predecir la siguiente palabra en una oración", dice Eric Lehman, candidato a doctorado en el Instituto de Tecnología de Massachusetts. Dr. La investigación de Lehman se centra en el procesamiento del lenguaje natural (es decir, la capacidad de una computadora para comprender los idiomas humanos), lo que permite que este tipo de software escriba correos electrónicos, responda preguntas y más.

En los términos más simples posibles, las herramientas de IA basadas en texto aprenden a imitar el discurso y la escritura humanos porque se les proporciona lo que se llama "datos de capacitación", que es esencialmente una gran biblioteca de contenido escrito existente desde Internet. Desde allí, Dr. Varshney dice que la computadora analiza patrones de lenguaje (por ejemplo: lo que significa cuando ciertas palabras siguen a otras; cómo se usan a menudo dentro y fuera de contexto) para poder replicarlo de manera convincente. Los desarrolladores de software luego ajustarán esos datos y sus aprendizajes para "especializar" el bot para su uso particular.

De esa capacitación, obtienes dos categorías generales de aplicación: IA predictiva y IA generativa. Según el Dr. Varshney, la IA predictiva funciona con un conjunto fijo de respuestas posibles que están preprogramadas para un propósito específico. Los ejemplos incluyen respuestas automáticas dentro de su correo electrónico o datos que sus dispositivos portátiles le brindan con respecto al movimiento de su cuerpo.

La IA generativa, sin embargo, está diseñada para crear contenido completamente nuevo inspirado en lo que sabe sobre el lenguaje y cómo los humanos hablan. "Está generando completamente la salida sin restricción sobre qué posibilidades podría haber", Dr. Varshney dice. Vaya a ChatGPT, el programa de IA generativo más conocido hasta la fecha, y puede pedirle que escriba votos de boda, una muestra Seinfeld guión, o preguntas para hacer en una entrevista de trabajo basada en la biografía del gerente de contratación. (Y mucho, mucho más.)

Pero, de nuevo, los chatbots de IA solo saben lo que está disponible para que analicen. En situaciones matizadas, sensibles y altamente personalizadas, como, por ejemplo, el tratamiento del trastorno alimentario, los chatbots de IA presentan deficiencias en los mejores escenarios y peligros en lo peor.

Las limitaciones actuales de las herramientas de texto de IA para la información de salud y nutrición

Existe un inmenso potencial para la IA generativa en los espacios de atención médica, dice el Dr. Varshney; Ya se está utilizando para ayudar a los médicos con gráficos, ayudar en diagnósticos de cáncer y decisiones de atención, y más. Pero una vez que comienza a cavar, los riesgos de IA generativo para proporcionar a los consumidores información de salud o nutrición se vuelven bastante claros.

Dado que estos modelos generalmente extraen información de todo Internet en lugar de que la información de fuentes y basada en la salud de la Web específicamente examinada es notoriamente inexacta, no debería esperar que la salida sea objetiva, dice el Dr. Lehman. Tampoco reflejará la opinión médica de vanguardia, ya que muchas herramientas, como ChatGPT, solo tienen acceso a la información que estaba en línea en 2019 o antes.

Los expertos dicen que estas herramientas muy humanas podrían usarse para reemplazar la atención y la información profesional. "El problema con las personas que intentan obtener la salud y el consejo general del bienestar en línea es que no lo obtienen de un profesional de la salud que conozca sus necesidades específicas, barreras y otras cosas que pueden necesitar ser consideradas", dice Amanda Raffoul, PhD, instructor de pediatría en la Facultad de Medicina de Harvard e investigador de Harvard Striped, una incubadora de salud pública dedicada a prevenir los trastornos alimentarios.

Además, el cuerpo de todos tiene diferentes necesidades de salud y nutricionales dependiendo de su composición genética única, microbioma intestinal, condiciones de salud subyacentes, contexto cultural y más y esas necesidades individuales cambian a diario, también. AI actualmente no tiene la capacidad de saber que. "Constantemente les digo a mis clientes que no somos robots", dice Dalina Soto, RD, LDN. "No nos conectamos y salimos a diario, por lo que no necesitamos la misma cantidad diariamente. Tenemos hormonas, sentimientos, estrés, vidas, movimiento, así que muchas cosas que afectan la forma en que quemamos y usamos energía ... pero porque la IA puede escupir una ecuación, la gente piensa, Bien, esto debe ser correcto."

“Constantemente les digo a mis clientes que no somos robots. No conectamos y salimos a diario, por lo que no necesitamos la misma cantidad diariamente. Tenemos hormonas, sentimientos, estrés, vidas, movimiento, así que muchas cosas que afectan la forma en que quemamos y usamos energía."
-Dalina Soto, Rd, LDN

También hay un gran valor en la conexión humana, que un bot simplemente no puede reemplazar, agrega DR. Conason. "Hay algo en hablar con otro ser humano y sentirse escuchado, visto y validado, y tener a alguien allí contigo durante un momento realmente oscuro ... eso es realmente poderoso. Y no creo que un bot pueda satisfacer esa necesidad."

Aún más preocupantes son los problemas de sesgo social conocidos con la tecnología de IA, particularmente el hecho de que los algoritmos de IA a menudo reflejan los prejuicios sociales existentes contra ciertos grupos, incluidas mujeres, personas de color y personas LGBTQ+. Un estudio de 2023 que miraba a ChatGPT descubrió que el chatbot podría producir muy fácilmente respuestas racistas o problemáticas dependiendo del aviso que se le dio. “Encontramos patrones con respecto a las entidades específicas, por ejemplo, ciertas razas están dirigidas en promedio tres veces más que otras, independientemente de la persona asignada. Esto refleja los sesgos discriminatorios inherentes en el modelo ”, escribieron los investigadores.

Pero al igual que los humanos, la IA no es necesariamente "nacida" prejuiciosa. Él aprendizaje sesgo de todos nosotros. Tome datos de capacitación, que, como se mencionó, generalmente se compone de texto (artículos, sitios informativos y, a veces, sitios de redes sociales) de toda la web. "Este idioma que está en Internet ya tiene muchos prejuicios sociales", dice el Dr. Varshney. Sin mitigación, un programa de IA generativo se retomará esos prejuicios e incorporará a su salida, que puede informar e informar incorrectamente las opciones de tratamiento y las opciones de tratamiento. Los desarrolladores de opciones al crear la capacitación pueden introducir sesgo, también.

En pocas palabras: "Si el texto subyacente en el que está entrenando es racista, sexista o tiene estos sesgos, su modelo va a reflejar eso", dice el Dr. Lehman.

Cómo programamos la cultura de la dieta en IA

La mayoría de las investigaciones y discusiones hasta la fecha sobre la IA y el sesgo social se han centrado en temas como el sexismo y el racismo. Pero el incidente de Tessa Chatbot revela que hay otro prejuicio horneado en este tipo de tecnología (y, por lo tanto, en nuestra sociedad en general, dado que dicho prejuicio es introducido por el comportamiento humano): el de la cultura de la dieta.

No hay una definición oficial de cultura de la dieta, pero Byrne lo resume como "la idea de que el peso es igual a la salud, que el en forma siempre es mejor, que las personas en grandes cuerpos son inherentemente poco saludables y que hay algún tipo de moralidad vinculada en lo que comes."

Parte de esa comprensión de la cultura de la dieta, agrega DR. Conason, es esta creencia persistente (pero equivocada) de que los individuos tienen un control total y directo sobre su cuerpo y su peso, una creencia de que la industria de la dieta de más de $ 70 mil millones perpetúa con fines de lucro.

Pero eso es solo parte de eso. "Realmente, se trata de peso inclinación,"Dice Byrne. Y eso significa las actitudes negativas, suposiciones y creencias que los individuos y la sociedad tienen a las personas en cuerpos más grandes.

La investigación abunda con el sesgo de peso para dirigir el daño a las personas gordas en casi todas las áreas de sus vidas. Las personas gordas a menudo son estereotipadas como perezosas, descuidadas y menos inteligentes que las personas que son creencias de menor tamaño que llevan a los gerentes a transmitir a los trabajadores gordos o pasar por alto para promociones y aumentos. Las mujeres gordas en particular a menudo se consideran menos atractivas debido a su tamaño, incluso por sus propias parejas románticas. Las personas gordas también tienen más probabilidades de ser intimidadas y es más probable que sean condenadas por un delito que las personas de menor tamaño, simplemente en virtud de su peso corporal.

El sesgo de peso también es desenfrenado en línea y se refleja a programas de IA generativos para captar. "Sabemos que generalmente en Internet, en todas las formas de medios, las vistas muy estigmatizantes sobre la gordura y los pesos más altos son generalizados", el Dr. Raffoul dice, junto con inexactitudes sobre nutrición, estado físico y salud general. Con una gran parte de los datos de entrenamiento de uno probablemente contaminado con el sesgo de peso, es probable que lo encuentre manifiesto en un programa de IA generativo, cuando un bot diseñado para prevenir los trastornos alimentarios le da a las personas consejos sobre cómo perder peso.

De hecho, un informe publicado en agosto desde el Centro para Contrarrestar el Odio Digital (CCDH) que examinó la relación entre la IA y los trastornos alimentarios encontró que los chatbots de IA generaban contenido de trastorno alimentario dañino el 23 por ciento del tiempo. El noventa y cuatro por ciento de estas respuestas dañinas fueron acompañadas de advertencias de que el consejo proporcionado podría ser "peligroso."

Pero, de nuevo, son los humanos los que crean algoritmos de programa, dan forma a sus directivas y escriben el contenido desde el cual los algoritmos aprenden que el sesgo proviene de nosotros. Y lamentablemente, las creencias estigmatizantes sobre las personas gordas informan todos los aspectos de nuestra sociedad, desde cómo se construyen y venden los asientos de las aerolíneas, a quienes arrojamos como pistas versus compañeros en nuestras películas y programas de televisión, hasta qué tamaño de ropa elegimos almacenar y vender Nuestras Tiendas.

"El sesgo anti-grasa y la cultura de la dieta están tan intrincados y profundamente entretejidos en el tejido de nuestra sociedad", dice Maxwell. "Es como el aire que respiramos afuera."

Lamentablemente, la industria médica es el mayor autor de sesgo de peso y estigma. "La creencia de que ser grasa no es saludable", dice Byrne, está "horneado en toda la investigación y la investigación médica."Los Centros para el Control y la Prevención de Enfermedades (CDC) describen la obesidad (cuando una persona tiene un índice de masa corporal, también conocido como IMC, de 30 o más) como una" enfermedad crónica común, grave y costosa."La Organización Mundial de la Salud (OMS) se refiere al número de personas de mayor tamaño en todo el mundo como una" epidemia "que está" asumiendo muchas partes del mundo."

Sin embargo, la "solución" para ser pérdida de peso grasa, no es particularmente bien respaldada por la ciencia. La investigación ha demostrado que la mayoría de las personas recuperan el peso que pierden en unos pocos años, incluso los pacientes que se someten a una cirugía bariátrica. Y el ciclo de peso (cuando con frecuencia pierde y aumenta de peso, a menudo debido a la dieta) se ha relacionado con un mayor riesgo de preocupaciones de salud crónica.

Si bien tener un peso más alto se asocia con una mayor probabilidad de tener presión arterial alta, diabetes tipo 2, ataques cardíacos, cálculos biliares, problemas hepáticos y más, no hay mucha evidencia de que la gordura sola causas estas enfermedades. De hecho, muchos expertos antidietales argumentan que las personas gordas tienen peores resultados de salud en parte debido al estrés tóxico asociado con el estigma de peso. El IMC, que se utiliza para evaluar rápidamente la salud y el riesgo de una persona, también es ampliamente reconocido como racista, anticuado y no preciso para el negro, el indígena y las personas de color (BIPOC). Sin embargo, a pesar de todos estos problemas, nuestro sistema médico y la sociedad en general tratan la grosería simultáneamente como una enfermedad y falla moral.

"Es un ejemplo bastante claro de estigma de peso, las formas en que las agencias de salud pública hacen recomendaciones basadas únicamente en peso, tamaño del cuerpo y forma", dice el Dr. Caffoul.

La patologización de la gordura contribuye directamente al estigma de peso y las consecuencias son devastadoras. La investigación muestra que los médicos tienden a desestimar a los pacientes con grasa y atribuyen todos los problemas de salud al peso o el IMC de una persona, lo que puede provocar diagnósticos perdidos y fallos peligrosos en la atención. Estas experiencias negativas hacen que muchas personas gordas eviten los espacios de atención médica por completo aumentando su riesgo de malos resultados de salud.

El estigma de peso es generalizado, incluso dentro del mundo de la recuperación del trastorno alimentario. Menos del 6 por ciento de las personas con trastornos alimentarios se diagnostica como "bajo peso", según la Asociación Nacional de Anorexia nerviosa y los trastornos asociados (ANAD), sin embargo, la delgadez extrema es a menudo el criterio principal en la mente de las personas para diagnosticar un desorden alimentario. Esto significa que las personas gordas con trastornos alimentarios a menudo tardan años en diagnosticar.

La investigación muestra que los médicos tienden a desestimar a los pacientes con grasa y atribuyen todos los problemas de salud al peso o el IMC de una persona, lo que puede provocar diagnósticos perdidos y fallos peligrosos en la atención.

"E incluso si puede ir al tratamiento, no es un cuidado equitativo", dice Nia Patterson, una entrenadora de liberación del cuerpo y sobreviviente de trastorno alimentario. Las personas gordas a menudo son tratadas de manera diferente debido a su tamaño en estos espacios. Maxwell dice que fue avergonzada por pedir más alimentos durante el tratamiento de la anorexia y que fue puesto en un plan de "mantenimiento" de peso que aún restringió las calorías.

Byrne dice que incluso hay un debate en la comunidad médica sobre si las personas que tienen un trastorno alimentario aún pueden buscar de forma segura, incluso los datos muestran que la dieta aumenta significativamente el riesgo de una persona de desarrollar un trastorno alimentario.

La realidad es que estas creencias altamente generalizadas sobre el peso (y los consejos médicos relacionados con la salud que han informado) existirán naturalmente en un chatbot porque les hemos permitido existir en todos lados: En revistas, en oficinas de médico, en propuestas de investigación, en películas y programas de televisión, en la misma ropa que usamos. Incluso encontrará actitudes anti-grasas de organizaciones respetadas como los NIH, los CDC y los principales hospitales como la Clínica Cleveland. Todo lo anterior hace que detectar el consejo problemático que un bot escupe (como tratar de perder una libra por semana) aún más desafiante, "porque es algo que los médicos y las diferentes personas a las que buscamos experiencia", Dr. Conason dice. Pero estos mensajes refuerzan el sesgo de peso y pueden alimentar los trastornos de la alimentación y de lo contrario dañar la salud mental de las personas, dice ella.

Con ese fin, no necesariamente los algoritmos son el principal problema aquí: es nuestra sociedad y cómo vemos y tratamos a las personas gordas. Somos los que creamos un sesgo de peso, y depende de nosotros solucionarlo.

Liberarse de la cultura de la dieta

La fea verdad que nos devuelve la mirada en el espejo, que la fatalfobia y el sesgo de peso en la IA no tienen nada que ver con los robots y todo lo que ver con los sentidos incómodos para sentarse en parte porque es pareció Como si hubiéramos progresado en ese frente. Hemos celebrado modelos, músicos y actrices de talla grande; muñecas Barbie de gran tamaño para niños; Opciones de tamaño de ropa más expansivas en los estantes de las tiendas. Pero esas victorias hacen poco (en todo caso) para abordar la discriminación que afecta a las personas en cuerpos más grandes, dice Maxwell.

"Creo que el progreso que hemos logrado ni siquiera está comenzando a tocar realmente el cambio real que debe suceder", concuerda el Dr. Conason. Romper el hechizo de la cultura de la dieta es un camino largo y sinuoso que implica mucho más que empujar la positividad del cuerpo. Pero el trabajo tiene que comenzar en algún lugar, tanto en el paisaje virtual como en el mundo real.

Dr. Varshney dice que en términos de IA, su equipo y otros están trabajando para desarrollar formas en que los programadores puedan intervenir durante la creación de un programa para tratar de mitigar los prejuicios. (Por ejemplo, los datos de capacitación de preprocesamiento antes de alimentarlo a una computadora para eliminar ciertos sesgos, o crear algoritmos diseñados para excluir respuestas o resultados sesgados.)

También hay un floreciente campo de ética de inteligencia artificial que tiene como objetivo ayudar a los trabajadores tecnológicos a pensar críticamente sobre los productos que diseñan, cómo se pueden usar y por qué es importante abordar el sesgo. Dr. Varshney, por ejemplo, lidera el aprendizaje automático en las bases de IBM del departamento de IA confiable. Actualmente, estos esfuerzos son voluntarios; Dr. Lehman predice que requerirá la regulación gubernamental (un objetivo de la administración Biden) para que más compañías tecnológicas adopten medidas estrictas para abordar el sesgo y otros problemas éticos asociados con la IA.

Las nuevas generaciones de trabajadores tecnológicos también se les enseña más críticamente sobre las herramientas digitales que crean. Algunas universidades tienen centros de investigación de ética de IA dedicados, como el Centro Berkman Klein en la Universidad de Harvard (que tiene una beca anual de "IA responsable"). El Colegio de Computación Schwarzman del MIT también ofrece una "concentración de la Computación y la Sociedad" que tiene como objetivo alentar el pensamiento crítico sobre las implicaciones sociales y éticas de la tecnología. Clases como "Defensa en tecnología, medios y sociedad" en la Escuela de Trabajo Social de la Universidad de Columbia, mientras tanto, tienen como objetivo brindar a los estudiantes graduados las herramientas para abogar por los sistemas mejores y más justos, incluso si no son desarrolladores.

Pero para garantizar un entorno virtual menos sesgado, debe comenzar el trabajo más difícil de erradicar el sesgo de peso en la vida real. Un lugar crítico para comenzar? Erradicando el IMC. "Creo que es medicina perezosa en este momento, ciencia perezosa, continuar atribuiéndose al IMC como una medida de salud", dice Maxwell.

No son necesariamente los algoritmos los principales problemas aquí: es nuestra sociedad y cómo vemos y tratamos a las personas gordas. Somos los que creamos un sesgo de peso, y depende de nosotros solucionarlo.

Mientras tanto, Byrne dice que es útil entender que el peso debe verse como solo una métrica en lugar de el métrica que define tu salud. "Idealmente, el peso sería solo un número en tu tabla", dice ella. Byrne subraya que si bien puede ser útil analizar los cambios en el peso con el tiempo (en contexto con otra información pertinente, como los vitales e historial médico), el tamaño del cuerpo ciertamente no debería ser el centro de conversaciones sobre la salud. (Tiene derecho a negarse a ser pesado, que es algo que Patterson hace con su médico.)

Ya se están tomando pasos en esta dirección, ya que la Asociación Médica Americana (AMA) votó el 14 de junio para adoptar una nueva política para usar el IMC solo junto con otras medidas de salud. Desafortunadamente, esas medidas aún incluyen la cantidad de grasa que una persona tiene y aún se va en su lugar el IMC.

Para abordar el sesgo de peso fuera de las oficinas del médico, Patterson cita los esfuerzos que se hacen para aprobar una legislación que prohibiría la discriminación de peso a nivel de la ciudad y estatal. Estos proyectos de ley que acaban de aprobar en la Ciudad de Nueva York-Conversación de que los empleadores, los propietarios o los servicios públicos no pueden negar los servicios a alguien en función de su altura o peso. Se está considerando una legislación similar en Massachusetts y Nueva Jersey, y ya está en los libros en Michigan, dice el Dr. Caffoul.

En un nivel individual, todos tienen trabajo para impedir la cultura de la dieta. "Creo que es difícil, y sucede muy lentamente", dice Byrne, por lo que dice que los libros desempacan el sesgo de peso son excelentes lugares para comenzar. Ella recomienda Vientre de la bestia por da'shaun l. Harrison y Anti-dieta por Christy Harrison, Rd, MPH. Soto también a menudo recomienda Temiendo el cuerpo negro por Sabrina Strings a sus clientes. Los padres también pueden mirar Talk de grasa: crianza en la edad de la cultura de la dieta por la periodista Virginia Sole-Smith para obtener orientación adicional sobre cómo detener el estigma de peso en casa. Podcasts como Fase de mantenimiento y No solicitado: Gotties responde También son excelentes lugares para desaprender, dice Byrne.

Patterson dice que uno de sus objetivos como entrenador de liberación del cuerpo es lograr que las personas se muevan más allá de las ideas convencionales de positividad corporal y se centren en algo que creen que es más alcanzable: “Tolerancia corporal."La idea, que escucharon por primera vez a alguien articulado en un grupo de apoyo hace 10 años, es que, si bien una persona puede no siempre amar su cuerpo o cómo se ve un momento dado, vive lo mejor que puede. "Eso suele ser lo que trato de hacer que las personas que están en cuerpos marginados se esfuerzan", dice Patterson. "No necesitas ser neutral para tu cuerpo, no tienes que aceptarlo ... estar gordo se siente realmente duro y es. Al menos solo tolerarlo hoy."

Patterson dice que superar las formas problemáticas en que nuestra sociedad trata el peso debe comenzar con la defensa y eso puede suceder de forma individual. "La forma en que puedo cambiar las cosas es ayudar a las personas, uno a uno o en grupo, marcar la diferencia con sus cuerpos: su percepción y experiencia en sus cuerpos y su capacidad para ponerse de pie y abogar por sí mismos", comparten ", comparten", comparten ", comparten", comparten ", comparten", comparten ", comparten", comparten ", comparten".

En Blanco como la nieve, finalmente llegó un día en que la reina malvada aprendió la verdad sobre sí misma de su espejo mágico. AI nos ha mostrado de manera similar a todos la verdad sobre nuestra sociedad: que todavía estamos en la esclavitud de la cultura de la dieta. Pero en lugar de duplicar nuestras creencias, tenemos una oportunidad única de romper el hechizo que el estigma de peso nos detiene a todos. Si tan solo todos estuviéramos dispuestos a enfrentarnos a nosotros mismos y comprometernos con el arduo trabajo de ser (y hacer) mejor.

El Intel de bienestar que necesita sin el BS que no se registre hoy para tener las últimas (y mejores) noticias de bienestar y consejos aprobados por expertos en su bandeja de entrada.