¿Qué es el sesgo en la inteligencia artificial?
Un sesgo es una inclinación o preferencia que distorsiona un resultado. En inteligencia artificial, ocurre cuando el sistema favorece o perjudica a ciertas personas o grupos, aunque nadie lo haya programado así a propósito.
Es como aprender sobre el mundo leyendo solo un diario. Si ese diario siempre muestra a ciertos grupos de una sola forma, terminarás con una idea incompleta. La IA aprende de los datos que recibe, y si esos datos están desequilibrados, sus respuestas también lo estarán.
Esto importa cuando la IA se usa para decisiones sensibles: seleccionar currículums, aprobar créditos, evaluar riesgos o mostrar anuncios de empleo. Un sesgo puede dejar fuera a personas por su género, edad, origen o forma de hablar.
Por ejemplo, si una empresa usa una IA para filtrar postulantes y esa IA aprendió con historiales donde casi siempre se contrató a un mismo perfil, puede descartar a buenos candidatos que no se parecen a ese perfil.
