cadena de bloques
Los proyectos basados en inteligencia artificial (IA) se están convirtiendo rápidamente en una parte integral del paradigma tecnológico moderno, ayudando en los procesos de toma de decisiones en varios sectores, desde finanzas hasta atención médica. Sin embargo, a pesar del progreso significativo, los sistemas de IA no están exentos de fallas. Uno de los problemas más críticos que enfrenta la IA en la actualidad es el sesgo de datos, que se refiere a la presencia de errores sistémicos en un conjunto determinado de información que conduce a resultados sesgados al entrenar modelos de aprendizaje automático.
Como los sistemas de IA dependen en gran medida de los datos; la calidad de los datos de entrada es de suma importancia ya que cualquier tipo de información sesgada puede generar prejuicios dentro del sistema. Esto puede perpetuar aún más la discriminación y la desigualdad en la sociedad. Por lo tanto, garantizar la integridad y objetividad de los datos es fundamental.
Por ejemplo, un artículo reciente explora cómo las imágenes generadas por IA, específicamente aquellas creadas a partir de conjuntos de datos dominados por fuentes con influencia estadounidense, pueden tergiversar y homogeneizar el contexto cultural de las expresiones faciales. Cita varios ejemplos de soldados o guerreros de varios períodos históricos, todos con la misma sonrisa al estilo americano.
Una imagen generada por IA de los nativos americanos. Fuente: Medio
Además, el sesgo generalizado no solo no logra capturar la diversidad y los matices de la expresión humana, sino que también corre el riesgo de borrar historias y significados culturales vitales, lo que podría afectar la salud mental global, el bienestar y la riqueza de las experiencias humanas. Para mitigar tal parcialidad, es esencial incorporar conjuntos de datos diversos y representativos en los procesos de capacitación de IA.
Varios factores contribuyen a los datos sesgados en los sistemas de IA. En primer lugar, el proceso de recolección en sí mismo puede tener fallas, ya que las muestras no son representativas de la población objetivo. Esto puede conducir a la representación insuficiente o excesiva de ciertos grupos. En segundo lugar, los sesgos históricos pueden filtrarse en los datos de capacitación, lo que puede perpetuar los prejuicios sociales existentes. Por ejemplo, los sistemas de IA entrenados con datos históricos sesgados pueden seguir reforzando los estereotipos raciales o de género.
Por último, los sesgos humanos pueden introducirse inadvertidamente durante el proceso de etiquetado de datos, ya que los etiquetadores pueden albergar prejuicios inconscientes. La elección de características o variables utilizadas en los modelos de IA puede generar resultados sesgados, ya que algunas características pueden estar más correlacionadas con ciertos grupos, lo que provoca un trato injusto. Para mitigar estos problemas, los investigadores y profesionales deben ser conscientes de las posibles fuentes de objetividad sesgada y trabajar activamente para eliminarlas.
¿Puede blockchain hacer posible la IA imparcial?
Si bien la tecnología blockchain puede ayudar con ciertos aspectos de mantener neutrales los sistemas de IA, de ninguna manera es una panacea para eliminar los sesgos por completo. Los sistemas de IA, como los modelos de aprendizaje automático, pueden desarrollar ciertas tendencias discriminatorias en función de los datos con los que se entrenan. Además, si los datos de entrenamiento contienen varias predisposiciones, es probable que el sistema las aprenda y las reproduzca en sus salidas.
Dicho esto, la tecnología blockchain puede contribuir a abordar los sesgos de la IA de formas únicas. Por ejemplo, puede ayudar a garantizar la procedencia y la transparencia de los datos. Los sistemas descentralizados pueden rastrear el origen de los datos utilizados para entrenar los sistemas de IA, lo que garantiza la transparencia en el proceso de recopilación y agregación de información. Esto puede ayudar a las partes interesadas a identificar posibles fuentes de sesgo y abordarlas.
Reciente: ¿Por qué unirse a un gremio de juegos de blockchain? Diviértete, gana y crea mejores juegos.
De manera similar, las cadenas de bloques pueden facilitar el intercambio seguro y eficiente de datos entre múltiples partes, lo que permite el desarrollo de conjuntos de datos más diversos y representativos.
Además, al descentralizar el proceso de capacitación, blockchain puede permitir que varias partes contribuyan con su propia información y experiencia, lo que puede ayudar a mitigar la influencia de cualquier perspectiva sesgada.
Mantener la neutralidad objetiva requiere una cuidadosa atención a las diversas etapas del desarrollo de la IA, incluida la recopilación de datos, el entrenamiento y la evaluación del modelo. Además, el monitoreo y la actualización continuos de los sistemas de IA son cruciales para abordar los posibles prejuicios que pueden surgir con el tiempo.
Para obtener una comprensión más profunda de si la tecnología blockchain puede hacer que los sistemas de IA sean completamente neutrales, Cointelegraph contactó a Ben Goertzel, fundador y director ejecutivo de SingularityNET, un proyecto que combina inteligencia artificial y blockchain.
En su opinión, el concepto de “objetividad completa” no es realmente útil en el contexto de los sistemas de inteligencia finitos que analizan conjuntos de datos finitos.
“Lo que pueden ofrecer los sistemas blockchain y Web3 no es objetividad completa o falta de sesgo, sino más bien transparencia para que los usuarios puedan ver claramente qué sesgo tiene un sistema de IA. También ofrece una capacidad de configuración abierta para que una comunidad de usuarios pueda modificar un modelo de IA para tener el tipo de sesgo que prefiera y ver de forma transparente qué tipo de sesgo refleja”, dijo.
Además, afirmó que en el campo de la investigación de IA, “sesgo” no es una mala palabra. En cambio, es simplemente indicativo de la orientación de un sistema de IA que busca ciertos patrones en los datos. Dicho esto, Goertzel admitió que los sesgos opacos impuestos por organizaciones centralizadas a los usuarios que no los conocen, pero que son guiados e influenciados por ellos, son algo de lo que las personas deben tener cuidado. Él dijo:
“Los algoritmos de IA más populares, como ChatGPT, son deficientes en términos de transparencia y divulgación de sus propios sesgos. Entonces, parte de lo que se necesita para manejar adecuadamente el problema del sesgo de la IA son redes participativas descentralizadas y modelos abiertos, no solo de código abierto sino matrices de peso abierto que son modelos entrenados y adaptados con contenido abierto”.
Del mismo modo, Dan Peterson, director de operaciones de Tenet, una red de cadena de bloques centrada en la IA, le dijo a Cointelegraph que es difícil cuantificar la neutralidad y que algunas métricas de la IA no pueden ser imparciales porque no hay una línea cuantificable para cuando un conjunto de datos pierde neutralidad. En su opinión, eventualmente se reduce a la perspectiva de dónde el ingeniero traza la línea, y esa línea puede variar de persona a persona.
“El concepto de que algo sea verdaderamente ‘imparcial’ históricamente ha sido un desafío difícil de superar. Aunque la verdad absoluta en cualquier conjunto de datos que se introduce en los sistemas de IA generativa puede ser difícil de precisar, lo que podemos hacer es aprovechar las herramientas que están más disponibles para nosotros mediante el uso de la tecnología blockchain y Web3”, dijo.
Peterson afirmó que las técnicas basadas en sistemas distribuidos, la verificabilidad e incluso las pruebas sociales pueden ayudarnos a diseñar sistemas de IA que se acerquen “tan cerca” a la verdad absoluta. “Sin embargo, aún no es una solución llave en mano; estas tecnologías en desarrollo nos ayudan a hacer avanzar la aguja a una velocidad vertiginosa a medida que continuamos construyendo los sistemas del mañana”, dijo.
Mirando hacia un futuro impulsado por la IA
La escalabilidad sigue siendo una preocupación importante para la tecnología blockchain. A medida que aumenta la cantidad de usuarios y transacciones, puede limitar la capacidad de las soluciones de cadena de bloques para manejar las cantidades masivas de datos generados y procesados por los sistemas de IA. Además, incluso la adopción e integración de soluciones basadas en cadenas de bloques en las IA existentes plantea desafíos importantes.
Reciente: Crypto en Europa: Economist analiza MiCA y el futuro de las monedas estables
En primer lugar, existe una falta de comprensión y experiencia en las tecnologías de IA y blockchain, lo que puede dificultar el desarrollo y la implementación de soluciones que combinen ambos paradigmas de manera efectiva. En segundo lugar, convencer a las partes interesadas de los beneficios de las plataformas blockchain, en particular cuando se trata de garantizar una transmisión de datos de IA imparcial, puede ser un desafío, al menos al principio.
A pesar de estos desafíos, la tecnología blockchain tiene un potencial inmenso cuando se trata de nivelar el panorama de IA en rápida evolución. Al aprovechar las características clave de blockchain, como la descentralización, la transparencia y la inmutabilidad, es posible reducir los sesgos en la recopilación, gestión y etiquetado de datos, lo que en última instancia conduce a sistemas de IA más equitativos. Por lo tanto, será interesante ver cómo se desarrolla el futuro de aquí en adelante.