Självlärande dataprogram har börjat göra något vi inte har förutsett. När dataprogrammen iakttar oss drar de inte de slutsatser vi skulle önska. Vi kommer att behöva säga samma sak till dem som föräldrar säger när de uppfostrar sina barn: Gör inte som vi gör, gör som vi säger.

Om program som iakttar en orättvis värld börjar konstruera en egen version av våra oskrivna regler – eller om vi omedvetet väver in våra fördomar i programmen – får vi program som förstärker orättvisor istället för att vara neutrala, skriver jag i en krönika för UNT.

Tom Simonites artikel, som jag hänvisar till, finns här: Machines taught by photos learn a sexist view of women.