Luchando contra la discriminación en un mundo controlado por la información

Vivimos en una época dominada por la información—un momento histórico en que la tecnología puede utilizar tu información personal para determinar cualquier cosa, desde el límite de tu tarjeta de crédito hasta el costo de un servicio de transporte. Por ejemplo, cuando una aerolínea cambia los precios de sus boletos inmediatamente después de que visitas el sitio de un competidor.

Éste es un método que utiliza un algoritmo que responde a nueva información que aprende sobre ti a partir de tu historial de navegación en el Internet. Mientras que no hay nada esencialmente indebido con personalizar costos basados en factores que son realmente relevantes, ¿por qué entonces las primas de seguros para los pilotos de acrobacias no son más altas que para los bibliotecarios?

Hay algo que está muy mal cuando los algoritmos escondidos resultan en precios más altos en general para las comunidades minoritarias.

Hace 16 meses, Consumer Reports, la organización independiente y sin fines de lucro a favor de los derechos de los consumidores, se alió con periodistas de ProPublica para lanzar una investigación, la primera en su tipo, sobre tarifas de seguros de autos: otra compra ordinaria cuyos precios están determinados por algoritmos.

Pasamos más de un año revisando montones de información en 4 estados: California, Texas, Missouri e Illinois. Y lo que encontramos fue sorprendente.

En cada estado descubrimos que las aseguradoras de autos estaban cobrando tasas más altas en algunos vecindarios minoritarios que podían explicarse por factores razonables. Dentro de las mismas ciudades, los conductores que vivían en zonas de minorías a menudo estaban pagando en promedio un 30% más que los conductores que vivían en áreas blancas con niveles de costos de accidentes similares. En otras palabras, después de tomar en cuenta factores relevantes que podrían explicar las diferencias de precios entre los vecindarios, como el promedio de costos de reclamos; aún existían grandes diferencias que no parecen tener una lógica racional.

En Chicago, dos conductores igual de seguros ilustran las consecuencias. Otis Nash tiene dos empleos para mantener a su esposa e hija y vive en East Garfield Park, un vecindario predominantemente negro; mientras que Ryan Hedges es un ejecutivo de publicidad en Lake View, un vecindario más afluente y predominantemente blanco. El vecindario de Nash tiene tasas más altas de pobreza y delincuencia pero los datos muestran que en realidad es más seguro desde el punto de vista de una aseguradora: a lo largo de los últimos años, las aseguradoras han pagado 20% menos por reclamos de lesiones y daños materiales en el código postal de Nash que en el de Hedges. Los dos hombres tienen el mismo seguro de Geico; y los dos han sido calificados como buenos conductores. Hedges paga alrededor de $55 por mes por su Audi SUV modelo 2015; sin embargo, Nash paga casi 4 veces más esta cantidad para asegurar su Honda Civic modelo 2012.

Este tipo de casos destruyen las creencias populares que las aseguradoras de autos han utilizado durante décadas para justificar el cobro de primas más altas en vecindarios de minorías; en resumen, el argumento de que el riesgo de pérdidas financieras por accidentes es mayor allí que en las áreas más blancas y más ricas de la ciudad. No podemos decir con certeza que estos descubrimientos sean resultado de discriminación humana intencional o, más probable, de algoritmos con entradas accidentalmente discriminatorias. Pero sí sabemos que las aseguradoras a menudo han utilizado factores que no tienen nada que ver con el historial de un conductor, como su profesión y puntaje de crédito, para definir tasas que pueden castigar de forma desproporcionada a las personas de color.

También sabemos que, sin importar cuál sea la causa, el resultado es lo que los abogados llaman un ‘impacto desigual’, una práctica que, sin importar si es intencional o no, lleva a resultados desiguales. Cuando los conductores como Otis Nash se ven forzados a pagar primas más altas, se vuelve más difícil poder tener un auto, lo cual, a su vez, limita los prospectos de empleo y hace que sea más difícil llegar a trabajar, lo que puede causar que pagar la renta se convierta en una lucha continua y así sigue y seguirá. Cuando hay vecindarios enteros que están sujetos a precios más altos, estos efectos dominó pueden ser devastadores: los presupuestos de las familias se agotan más rápidamente, las oportunidades de empleo se ponen más difíciles y las comunidades se ven frenadas en su crecimiento. Una cosa sería que las disparidades de precio pudieran ser justificadas por un riesgo legítimo, pero ahora sabemos que este no es el caso. Y cuando los conductores seguros con malos historiales de puntaje de crédito, tienen que pagar más que los conductores peligrosos que resultan ser acaudalados (una práctica que nuestras investigaciones han puesto en evidencia anteriormente), los ciclos viciosos se perpetúan en comunidades que históricamente han batallado con estas cuestiones.

Por generaciones, los vecindarios de minorías han sido presa de las industrias que conspiran para denegar servicios o aumentar sus tasas. La era de la información no ha solucionado este problema, pero ha vuelto más complicado asignar la responsabilidad a los humanos que actúan con mala fe. Nuestra esperanza es que, al sacar a la luz el tema de las disparidades en los seguros de autos, podamos movilizar a los consumidores para que exijan soluciones reales, como reglas estatales que incrementen la transparencia en los precios y limiten los factores demográficos que las compañías pueden utilizar para determinar sus tasas de precios. Pero con más frecuencia los costos de vida se enredan con algoritmos y con nuestra información personal, debemos mantenernos alertas para asegurarnos de que nuestros valores como consumidores, incluyendo la justicia, la igualdad y la transparencia, sean lo que impulse la evolución en el mercado.