Conoce a Diem, el 'motor de búsqueda social' que funciona con IA tenía la intención de sentirse como el chat de su grupo de amigos

Por ejemplo, supongamos que quiere saber cuánto cuesta congelar sus huevos. Escribiría esa pregunta en DIEM, y el componente AI utilizaría su base de datos de Internet más amplia y el contenido contribuido por los usuarios de DIEM para generar una respuesta de una oración y una más larga. Y recibirías ambas, junto con todas las publicaciones generadas por la comunidad sobre el tema, en caso de que estuvieras interesado en desplazarlas a través de ellas.

De esta manera, Diem combina la facilidad de IA con la personalización del conocimiento de mujeres reales y personas no binarias, el tipo de información anecdótica y experiencias de vida y chisme a menudo deprimido por los motores de búsqueda debido al sesgo (más sobre eso a continuación). Es la combinación, dice Bates, lo que hace que la información sobre DIEM sea útil y directamente aplicable a las personas de estas comunidades. "La forma en que siempre hemos pensado en construir es:" ¿Cómo podemos crear un espacio donde pueda buscar las ideas colectivas de sus comunidades??'" ella dice. "Si puede construir colectivamente con su comunidad, da forma a la voz, los datos y la experiencia, y termina sintiéndose diferente."

El problema del sesgo de género en los motores de búsqueda y las plataformas de IA

Debido a que el sesgo de género prevalece en la sociedad en su conjunto, también existe dentro de los algoritmos de los motores de búsqueda de Internet y alimenta la brecha de información de género. Es la misma brecha que Bates se enfrentó al tratar de encontrar información aplicable y relatable en la píldora de la mañana después de 2018.

Como evidencia, considere los resultados de un estudio de 2022, para el cual los investigadores buscaron determinar si las búsquedas de imágenes de Google en países con puntajes de mayor calidad de género (evaluados con el índice de brecha de género global) también demostrarían un sesgo de género. Para hacerlo, realizaron una búsqueda de la palabra "persona" en el idioma local de 37 países en su primer estudio y 52 países en su segundo. En todos los casos, los resultados de la búsqueda de Google en países con mayores niveles de desigualdad de género social también revelaron una mayor disparidad de género (lo que significa que un mayor porcentaje de los primeros 100 resultados de imagen mostró a un hombre contra una mujer).

También se ha encontrado que los nuevos bots de IA perpetúan el sesgo de género. Por ejemplo, Bloomberg informó que un científico computacional consiguió Chatgpt para escupir código que decía que solo los hombres asiáticos o blancos serían buenos científicos; El CEO de la compañía respondió al científico en Twitter, alentando a los usuarios a "pulgar hacia abajo" tales respuestas para ayudar al programa a aprender a no propagar sesgo.

Cuando le hice una pregunta similar a ChatGPT, dijo que no es apropiado usar el género o la carrera de alguien para determinar si sobresalirían en una profesión. Pero si bien parece que la IA está aprendiendo actualmente a ser menos parcial. (Mientras que la IA de Diem está en gran medida entrenada en la información creada por y para mujeres y personas no binarias, y por lo tanto no están sujetas a la misma cuestión del sesgo anti-mujeres del salto.)

"La IA es tan buena como los datos en los que está entrenado, y debido a que todos los humanos tienen sesgo y prejuicio, cuando se usan sus datos, ese sesgo y prejuicio se convierten en parte de la IAi."-Nina Vasan, MD, psiquiatra

Estos hallazgos ilustran cómo los sesgos que mantenemos a medida que las personas transfieren naturalmente a los productos que creamos y los conjuntos de datos a los que contribuimos. "La IA es tan buena como los datos en los que está entrenado, y debido a que todos los humanos tienen prejuicios y prejuicios, cuando se usan sus datos, ese sesgo y prejuicio se convierten en parte de la IA", dice la psiquiatra Nina Vasan, MD, directora médica. de la plataforma de terapia digital Real y Fundador y Director Ejecutivo de Brainstorm: The Stanford Lab for Mental Health Innovation.

Cómo Diem tiene como objetivo convertirse específicamente en un motor de búsqueda divertido e informativo para mujeres y personas no binarias

Dada la demográfica del usuario prevista de Diem, Bates dice que piensa en la información compartida en la plataforma y generada por el chatbot como respuestas a las preguntas que las personas tienen cuando están en la "etapa de amigos" de sus vidas; La gente absorbe mucha información de amigos cuando tienen veintitantos años y treinta años, dice ella. La idea con Diem es que está obteniendo perspectivas de una variedad de personas de su edad e identidad de género con las que de otro modo no ha interactuado, y que la comprensión colectiva beneficia a todos en la plataforma.

Debido a que la IA de Diem se alimenta con información directamente de personas de este grupo demográfico, es una plataforma representativa por diseño. A partir de ahora, miles de mujeres y personas no binarias han hecho preguntas y han compartido respuestas sobre diem sobre temas relevantes para ellas, especialmente en las categorías de salud personal, dinero y relaciones, que es donde la IA de Diem está mejor capacitada.

Si bien todavía está aprendiendo, se extrae de un conjunto de datos de propiedad más amplio (similar al que impulsa chatgpt) para encontrar información sobre preguntas que las personas en la comunidad aún no han discutido. Sin embargo, un punto de diferenciación es que todavía resulta una "respuesta diem-y resumida" para estas preguntas, dice Bates, usando convos de diem reales para informar el estilo y el tono de la respuesta.

Sin embargo, debido a que Diem sigue siendo una IA dependiendo tanto del contenido generado por el usuario como en ese conjunto de datos más amplio, ciertamente no es inmune a los problemas que enfrentan otros motores de búsqueda y chatbots de IA, incluidos los falsos, engañosos y, sí, incluso contenido sesgado. A su vez, hay un botón dentro de la aplicación y en la versión de escritorio para informar el abuso, y la plataforma ha publicado un conjunto de pautas de la comunidad, que promueven cosas como "amabilidad y curiosidad" y "compromiso empático", para garantizar la seguridad de sus usuarios. y la calidad de la información.

Diem se lanza durante una época en que los funcionarios gubernamentales en los Estados Unidos y la Unión Europea están explorando formas de regular la IA, en gran parte debido a las preocupaciones anteriores. En el u.S. Específicamente, la oficina del presidente Joe Biden publicó un borrador de una Declaración de Derechos de AI en octubre, un grupo bipartidista de u.S. Los senadores dirigidos por el senador Chuck Schumer están trabajando en la legislación para establecer barandillas en torno a la industria, y cuatro agencias gubernamentales emitieron una declaración conjunta el mes pasado que describe los poderes que poseen para regular la industria de manera más sólida, particularmente contra la discriminación resultante del sesgo.

Pero Bates no se disuade al ingresar a este paisaje. Ella predice que habrá un "cambio interesante en el futuro de Internet", donde las personas buscarán información que atiende específicamente a donde están en sus vidas. En lugar de pedirle a Google consejos para citas, por ejemplo, espera que pronto vaya a una plataforma como Diem, que le dará respuestas derivadas de personas con una experiencia vivida similar a la suya.

"En este momento, existimos en monopolios, y eso afecta cómo usamos Internet y qué esperamos de plataformas", dice Bates. Después de todo, esos monopolios a menudo reflejan sesgo a favor de los hombres. "Creo que el futuro de Internet ofrecerá más experiencias de nicho", dice ella. Y quién puede decir que un nicho es necesariamente pequeño? Como señala Bates, las personas identificadoras de las mujeres constituyen una parte casi igual de las personas en el planeta. Y ahora, hay un chat grupal gigante esperando su opinión.

El Intel de bienestar que necesita sin el BS que no se registre hoy para tener las últimas (y mejores) noticias de bienestar y consejos aprobados por expertos en su bandeja de entrada.