biais
analyse
AI Can Run Your Work Meetings Now - 25 novembre 2020
A new wave of startups is trying to optimize meetings, from automated scheduling tools to facial recognition that measures who’s paying attention.
Julian Green was explaining the big problem with meetings when our meeting started to glitch. The pixels of his face rearranged themselves. A sentence came out as (...)
analyse
Reconnaissance faciale, un remède miracle ? - 18 novembre 2020
Depuis quelques temps déjà, un débat autour de la reconnaissance faciale s’érige auprès des sphères politico-industrielles ainsi qu’au sein des organisations de défense des libertés, un développement technologique qui fascine autant qu’il inquiète. Vendue par ses promoteurs comme la solution miracle aux problèmes sécuritaires, (...)
analyse
Männer fahren LKW, Frauen erziehen Kinder – diskriminierendes Gendertargeting durch Facebook - 13 novembre 2020
Facebook spielt Stellenanzeigen in diskriminierender Weise an die Nutzer:innen seiner Plattformen aus. Untersuchungen von AlgorithmWatch zeigen, dass sich Facebook an groben Genderstereotypen zu orientieren scheint, um die Zielgruppe von Anzeigen zu bestimmen – auch wenn die Auftraggeber:innen die Ausschreibungen (...)
analyse
UN warns of impact of smart borders on refugees : ‘Data collection isn’t apolitical’ - 12 novembre 2020
Special rapporteur on racism and xenophobia believes there is a misconception that biosurveillance technology is without bias
Robotic lie detector tests at European airports, eye scans for refugees and voice-imprinting software for use in asylum applications are among new technologies flagged as “troubling” in a (...)
analyse
How an Algorithm Blocked Kidney Transplants to Black Patients - 27 octobre 2020
A formula for assessing the gravity of kidney disease is one of many that is adjusted for race. The practice can exacerbate health disparities.
Black people in the US suffer more from chronic diseases and receive inferior health care relative to white people. Racially skewed math can make the problem worse. (...)
analyse
Spam filters are efficient and uncontroversial. Until you look at them. - 25 octobre 2020
An experiment reveals that Microsoft Outlook marks messages as spam on the basis of a single word, such as “Nigeria”. Spam filters are largely unaudited and could discriminate unfairly.
In an experiment, AlgorithmWatch sent a few hundred emails to 10 email inboxes at Gmail, Yahoo, Outlook, GMX and LaPoste (the last (...)
analyse
Looking for Race in Tech Company Ethics - Jacob Metcalf - 22 octobre 2020
In Silicon Valley, a curious job is increasingly common within tech companies : the “ethics owner,” who is responsible for designing organizational practices to instill ethics across the company. In our report Ethics Owners : A New Model of Organizational Responsibility in Data-Driven Technology Companies, we (...)
analyse
Automated discrimination : Facebook uses gross stereotypes to optimize ad delivery - 18 octobre 2020
An experiment by AlgorithmWatch shows that online platforms optimize ad delivery in discriminatory ways. Advertisers who use them could be breaking the law.
Online platforms are well known for the refinement of their advertisement engines, which let advertisers address very specific audiences. Facebook lets you (...)
analyse
Politicians have made an algorithm to fix the housing crisis. It’s bad - 16 octobre 2020
Politicians believe an algorithm can solve England’s housing woes. The problem ? It’s making things worse, not better
In Dominic Cummings and Boris Johnson’s new-look Whitehall, spin doctors, civil servants and political strategies are out and algorithms are in.
Nothing has exposed how badly that ideology is faring (...)
analyse
‘Aggression Detection’ Is Coming to Facial Recognition Cameras Around the World - 25 septembre 2020
Russian firm NTech Lab plans to roll emotional detection features worldwide as soon as 2021
NTech Lab, makers of Russia’s expansive real-time facial recognition surveillance system, is set to roll out “aggression detection” as well as “violence detection” features, which will flag law enforcement when the algorithm (...)
plainte
Twitter apologises for ’racist’ image-cropping algorithm - 22 septembre 2020
Users highlight examples of feature automatically focusing on white faces over black ones
Twitter has apologised for a “racist” image cropping algorithm, after users discovered the feature was automatically focusing on white faces over black ones.
The company says it had tested the service for bias before it (...)
analyse
Twitter privilégie-t-il les personnes blanches aux personnes noires sur les photos ? - 22 septembre 2020
Des internautes ont découvert que l’algorithme qui choisit quelle partie d’une photo s’affiche en aperçu sur Twitter semble privilégier les photos de personnes blanches par rapport aux personnes noires. Le réseau social s’intéresse de près à ce constat.
Ce sont deux photos d’hommes politiques américains : Mitch McConnell (...)
analyse
To Surveil and Predict - 14 septembre 2020
This report examines algorithmic technologies that are designed for use in criminal law enforcement systems. Algorithmic policing is an area of technological development that, in theory, is designed to enable law enforcement agencies to either automate surveillance or to draw inferences through the use of mass (...)
analyse
Schulabschluss in Corona-Zeiten : Ein Algorithmus, der Träume zerstören kann - 12 septembre 2020
In der Coronakrise hat ein Algorithmus die Endnoten britischer Schüler errechnet - die Ergebnisse sorgten für Aufruhr. Doch auch in Deutschland entscheidet eine geheime Formel über die Noten bestimmter Schüler.
Als Sophia Kamal-Bederski Anfang Juli ihre Abschlussnoten bekam, war sie schockiert : "Meine Lehrer hatten (...)
Lire
L’intelligence artificielle, pas sans elles ! - 10 septembre 2020
Les algorithmes sont machistes !
Pourquoi le traducteur de Google propage-t-il les stéréotypes sexistes : “il” est médecin, “elle” est infirmière ? Et pourquoi les applications d’orientation professionnelle associent-elles toujours l’empathie et les compétences littéraires aux femmes, le charisme et les compétences (...)
analyse
Opinion | When Algorithms Give Real Students Imaginary Grades - 9 septembre 2020
In-person final exams were canceled for thousands of students this spring, so computers stepped in — to disastrous effect.
Isabel Castañeda’s first words were in Spanish. She spends every summer with relatives in Mexico. She speaks Spanish with her family at home. When her school, Westminster High in Colorado, (...)
analyse
En effaçant les camps de Ouïghours sur Baidu Maps, la Chine les a rendus visibles. - 8 septembre 2020
Privées d’accès au Xinjiang, des journalistes du site BuzzFeed se tournent en 2018 vers l’imagerie satellite du site chinois Baidu Maps pour localiser les 1.200 camps de concentration où sont détenu·es des Ouïghour·es, dans le cadre d’un génocide qui a commencé en 2014.
Avec les progrès de la technologie, cette technique (...)
analyse
From viral conspiracies to exam fiascos, algorithms come with serious side effects - 6 septembre 2020
A mesmerising, unaccountable kind of algorithm – machine learning – is blinding governments to the technology’s often disastrous flaws
Will Thursday 13 August 2020 be remembered as a pivotal moment in democracy’s relationship with digital technology ? Because of the coronavirus outbreak, A-level and GCSE examinations (...)
analyse
Reconnaissance faciale : officiellement interdite, elle se met peu à peu en place - 4 septembre 2020
Nice, Metz, Marseille... Toutes ces villes tentent d’expérimenter des dispositifs qui s’apparentent à de la reconnaissance faciale, toujours interdite en France. La Cnil veille au grain, mais n’exclut pas de rendre un avis favorable pour les Jeux olympiques de Paris en 2024.
Imaginez : le 26 juillet 2024. Les Jeux (...)
analyse
Quand l’intelligence artificielle facilite le recrutement sur LinkedIn - 1er septembre 2020
Si des chercheurs s’intéressent au domaine de la détection de personnalité sur l’internet depuis plusieurs années, Frédéric Piedbœuf est le premier à démontrer que cela est aussi possible sur une plateforme professionnelle comme LinkedIn. Le doctorant à l’Université de Montréal (UdeM) a mis au point une méthode algorithmique (...)
