- Inici
- El món ara
- Cinc números
- Els teus diners
- Màquines que preveuen
- Prejudicis i economia
- El buit
- L'eina
- Laboratori
- Conclusions
Pas 6 de 10 · Prejudicis i economia
Prejudicis i economia
Què diu la recerca sobre l'aspecte físic, el nom i els diners, i per què una màquina no hauria de fer-ne servir.
Punt de partida
La cara no diu què guanyaràs. El que sí que pot canviar-ho és com et miren els altres.
Una eina que prediu la vida econòmica d'una persona convida a una idea temptadora: i si fes servir una foto? Aquesta pàgina explica, amb el que ha mesurat la recerca, per què aquesta eina no ho fa i per què cap altra no hauria de fer-ho.
Cal separar dues coses que sovint es barregen: què fa la gent amb l'aspecte d'una persona (això sí que s'ha mesurat, i té conseqüències reals) i què revela l'aspecte d'una persona sobre ella (gairebé res).
Primera impressió
Jutgem en una dècima de segon
Willis i Todorov (2006) van ensenyar cares desconegudes durant només 100 mil·lisegons. Les valoracions d'atractiu, simpatia, confiança, competència i agressivitat que feia la gent ja coincidien molt amb les que feia amb tot el temps del món; mirar la cara més estona sobretot augmentava la seguretat en el que s'havia jutjat.
El resultat parla de com ens formem impressions, no de si són encertades: compara unes valoracions amb unes altres, no amb les qualitats reals de la persona. I tenen efectes. Todorov i col·laboradors (2005) van mostrar que, només a partir de fotos dels candidats, la gent endevinava qui guanyaria les eleccions al Senat dels Estats Units en prop del 70 % dels casos. Això no vol dir que els guanyadors fossin més competents: vol dir que els votants hi reaccionen.
Aspecte físic
Què ha mesurat la recerca
Sis estudis, sis maneres de mirar el mateix: l'aspecte canvia el tracte que rep una persona. Cap d'ells diu que l'aspecte canviï el que la persona val.
Amb enquestes dels EUA i del Canadà, les persones valorades com a poc atractives cobraven entre un 5 % i un 10 % menys; la prima per ser atractiu era una mica més petita.
En un experiment amb una tasca que no depenia de l'atractiu, els treballadors atractius aconseguien millors ofertes: tenien més confiança, més facilitat de conversa i, a sobre, qui contractava els atribuïa més capacitat de la que tenien.
La prima salarial de l'alçada s'explica en bona part per les habilitats cognitives de la infantesa: no es premia «ser alt», sinó el que això acompanyava.
Currículums idèntics enviats a ofertes reals de Suècia: quan la foto feia semblar obesa la persona, rebia menys trucades (6 punts percentuals menys en homes i 8 en dones).
2.656 ofertes a Israel: els homes amb foto atractiva van rebre un 19,9 % de respostes, els de foto corrent un 13,7 % i els que no en posaven un 9,2 %. Les dones que no posaven foto en van rebre més que les que sí, i les atractives menys que les d'aspecte corrent.
En un experiment, les fotos amb tatuatges o pírcings van rebre pitjors valoracions d'idoneïtat que les cares de control, menys en feines sense atenció al públic. Són valoracions, no ofertes de feina reals.
Els efectes no són universals: varien segons el país, l'època, el tipus de feina i el disseny de l'estudi, i hi ha treballs que no troben l'efecte esperat.
Nom i origen
No és només la cara
Quan es canvia només el nom del currículum, el tracte també canvia.
Noms «blancs» davant de noms afroamericans
Bertrand i Mullainathan (2004): currículums idèntics enviats a ofertes de Boston i Chicago. Més trucades per fer entrevistes.
Trucades dels blancs respecte dels afroamericans
Quillian i altres (2017): 28 estudis i 55.842 sol·licituds des de 1989. Per als llatins, +24 %. Cap canvi apreciable en 25 anys per als afroamericans.
Probabilitat de resposta d'un propietari a un nom marroquí
Bosch, Carnero i Farré (2010), lloguer a Espanya. Afegir informació positiva sobre la solvència va apujar el contacte 8 punts, però no va eliminar la diferència.
El raonament
Per què no es pot convertir en una predicció
1. L'efecte és una mitjana, i ve dels altres
Els estudis mesuren com reaccionen els qui contracten, lloguen o voten. Una diferència mitjana entre grups no diu què li passarà a una persona concreta: dins de qualsevol grup hi ha gent que guanya molt i gent que guanya poc.
2. Usar-ho automatitza el biaix
Un model que penalitzi el que penalitza el prejudici no el descobreix: el repeteix. Si s'utilitza per decidir (crèdits, ofertes, lloguers), el prejudici deixa de ser una opinió i passa a ser una regla aplicada a tothom, i les dades que se'n generen semblen confirmar-lo.
3. La cara és una porta cap a trets protegits
Una cara deixa intuir l'edat, el sexe o l'origen. Predir amb ella és, a la pràctica, predir amb aquests trets: una discriminació que no es diu pel seu nom.
4. És una idea vella amb roba nova
La fisiognomia, que pretenia llegir el caràcter en el rostre, ha estat desacreditada per la ciència. Agüera y Arcas, Mitchell i Todorov (2017) argumenten que alguns sistemes d'aprenentatge automàtic que diuen predir la criminalitat o el caràcter a partir de la cara són profundament defectuosos i en reprodueixen l'error.
5. La llei hi posa límits
Una foto és una dada personal, i passa a ser dada biomètrica (categoria especial al RGPD) quan es tracta tècnicament per identificar algú. El Reglament d'IA de la UE (2024/1689) prohibeix els sistemes que dedueixen de dades biomètriques la raça, les opinions polítiques, les creences, la vida sexual o l'orientació sexual, i la puntuació social que causa un tracte desfavorable injustificat o desproporcionat. Predir ingressos a partir de la cara no apareix literalment en aquestes llistes, però en comparteix l'esperit; en un projecte real caldria consultar un jurista.
Fonts
Referències
- Agüera y Arcas, B., Mitchell, M. i Todorov, A. (2017). Physiognomy's new clothes. Medium. Versió ampliada: Physiognomy in the age of AI (2023), a Feminist AI, Oxford University Press.
- Bertrand, M. i Mullainathan, S. (2004). Are Emily and Greg more employable than Lakisha and Jamal? A field experiment on labor market discrimination. American Economic Review, 94(4), 991–1013.
- Bosch, M., Carnero, M. A. i Farré, L. (2010). Information and discrimination in the rental housing market: Evidence from a field experiment. Regional Science and Urban Economics, 40(1), 11–19. doi:10.1016/j.regsciurbeco.2009.11.001
- Case, A. i Paxson, C. (2008). Stature and status: Height, ability, and labor market outcomes. Journal of Political Economy, 116(3), 499–532.
- Hamermesh, D. S. i Biddle, J. E. (1994). Beauty and the labor market. American Economic Review, 84(5), 1174–1194.
- Mobius, M. M. i Rosenblat, T. S. (2006). Why beauty matters. American Economic Review, 96(1), 222–235.
- Quillian, L., Pager, D., Hexel, O. i Midtbøen, A. H. (2017). Meta-analysis of field experiments shows no change in racial discrimination in hiring over time. PNAS, 114(41), 10870–10875. doi:10.1073/pnas.1706255114
- Rooth, D.-O. (2009). Obesity, attractiveness, and differential treatment in hiring: A field experiment. Journal of Human Resources, 44(3), 710–735.
- Ruffle, B. J. i Shtudiner, Z. (2015). Are good-looking people more employable? Management Science, 61(8), 1760–1776. doi:10.1287/mnsc.2014.1927
- Timming, A. R., Nickson, D., Re, D. i Perrett, D. (2017). What do you think of my ink? Assessing the effects of body art on employment chances. Human Resource Management, 56(1), 133–149.
- Todorov, A., Mandisodza, A. N., Goren, A. i Hall, C. C. (2005). Inferences of competence from faces predict election outcomes. Science, 308(5728), 1623–1626. doi:10.1126/science.1110589
- Willis, J. i Todorov, A. (2006). First impressions: Making up your mind after a 100-ms exposure to a face. Psychological Science, 17(7), 592–598.
- Reglament (UE) 2016/679 (RGPD), arts. 4.14 i 9. Reglament (UE) 2024/1689 (Reglament d'Intel·ligència Artificial), art. 5.
Les xifres són les que els autors donen als seus resums; consulta els articles originals per a la metodologia i els matisos.