Vil AI forsterke skjevhet i beslutningsprosessen for å ta film eller fjerne den?

CES 2020: Hvorfor HBO vil at vi skal tenke to ganger om personvern i fremtiden En opplevelse fra Westworld-tema ga CES-deltakerne et skummelt glimt av fremtidens tekniske konsekvenser.

Forrige uke på CES 2020 stilte Lynne Parker spørsmålet: "Hvem jobb er det å beskytte oss mot den svarte boksen?" under en økt om global ledelse innen kunstig intelligens (AI). Parker er visepresidentsjef for teknologipolitikk i Det hvite hus.

Mer fra CES 2020

  • CES 2020-oppdatering: Alle forretningsnyttige nyheter du trenger å vite
  • Bilder: Rare, sprø og kule teknikker fra CES 2020
  • CES 2020: De store trendene for virksomheten (ZDNet spesialfunksjon)
  • Mer dekning for CES 2020 (TechRepublic på Flipboard)

Samme dag brøt The Hollywood Reporter nyheten om at Warner Bros.-studio hadde inngått en avtale med Cinelytic, et AI-drevet prosjektstyringssystem. Plattformen bruker prediktiv analyse "for å veilede beslutninger på greenlight-stadiet" og "vurdere verdien av en stjerne i et hvilket som helst territorium og hvor mye en film forventes å tjene."

Flere studioer bruker allerede AI-plattformer med mål om å unngå dyre flopper som "Playmobil" (produksjonsbudsjett: $ 40 millioner vs. Globalt billettkontor: $ 13 millioner) og "Katter" (produksjonsbudsjett: $ 100 millioner vs. globalt billettkontor: $ 10, 9 millioner ).

Med flere og flere studioer som bruker disse verktøyene, vil det være høyprofiltest av skjevhet i AI og kraften til forklarbarhet.

Forsterke skjevhet eller fjerne den?

Å legge kunstig intelligens til filmprosessen kan gå begge veier når det gjelder å få mer lønnsomme filmer på storskjerm. Å stole på data for å velge vinnere kan føre til mer forferdelige oppfølgere hvis de drives av et datasett med "vi har alltid gjort det på denne måten" -tall - se Amazons mislykkede ansettelsessystem, og algoritmen som Goldman Sachs bruker for å godkjenne kredittgrenser for Apple-kort.

Hvis datasettet gjennomgås for skjevhet i begynnelsen og oppdateres jevnlig, kan beslutningstakingen lette skjevheten som følger av når en homogen gruppe tar alle beslutninger om finansiering. UCLAs årlige Hollywood Diversity Report antyder at publikum foretrekker filmer og TV-serier med relativt forskjellige avspillinger. Kaptein Marvel og Black Panther tjente begge mer enn 1 milliard dollar over hele verden, men kvinner og svarte mennesker får fortsatt ikke like mange hovedroller som hvite menn.

Det er enda viktigere avgjørelser som AI vil påvirke - for eksempel hvem som blir godkjent for et lån, eller hvem som blir satt på en overvåkningsliste - men disse Hollywood-avgjørelsene kan være høyere enn de fleste. Å se på hvilke filmer som har en bedre sjanse for å bli laget, er en enklere måte å forstå den potensielle skjevheten i ett AI-system som kan være til stede i mange andre applikasjoner. Spørsmålene om hvordan prosessen fungerer i en kreativ bransje er verdt å stille i alle andre bransjer der AI påvirker og tar beslutninger:

  • Hva brukes datasettet for å ta disse beslutningene?
  • Hvor ofte blir den oppdatert?
  • Er dataene testet for skjevhet?

For å skrive mangfoldsrapporten vurderer forskere ved UCLA College of Social Science rase og kjønn til hovedrolleinnehavere, showskapere, forfattere og regissører, så vel som globale og innenlandske avkastning, seer og sosiale medier, Oscar og Emmy-priser, sjanger, showsteder, internasjonal distribusjon og demografien til billettkjøpere.

Kvinner er litt mer enn halvparten av den amerikanske befolkningen, men de representerte 33% av filmledninger, 40% av TV-leads og 43% av kabelledningene. Folk av farger utgjorde mindre enn 22% av hovedrollene i filmer, TV-serier og kabelprogrammer, selv om denne gruppen representerer nesten 40% av den amerikanske befolkningen.

I Hollywood Diversity-rapporten fra 2019 konkluderte forskerne til tross for noen forbedringer, "den nødvendige strukturelle endring ... har rett og slett ikke skjedd i filmsektoren." AI-drevet beslutningstaking har makt til å styrke eksisterende skjevhet eller støtte de strukturelle endringene som ikke har skjedd ennå.

Åpner opp den AI sorte boksen

En annen mulighet til AI i filmverdenen er sjansen til å forklare forklaringsevne. IBM lister opp "forklarbarhet" som en av de fire søylene til pålitelig AI som kreves for å bygge tillit til datasettene og automatisert beslutningsprosess. Forklarbarhet er den store muligheten her. Det er klart at skuespillere har flere måter å tjene penger enn lageransatte eller matservicearbeidere hvis jobber sannsynligvis vil bli berørt på grunn av maskinlæring, men noen av de samme problemene vil komme fram:

  • Hva om AI-plattformen anbefaler samme type historie om og om igjen eller velger den samme typen helt hver gang?

  • Er det mer sannsynlig at mannlige skuespillere får greenlight enn kvinnelige skuespillere?
  • Er det sannsynlig at hvite skuespillere blir anbefalt for en ledende rolle enn svarte skuespillere?
  • Hvordan vil studieledere forklare disse beslutningene for agenter og skuespillere?

Denne nye beslutningsprosessen i filmbransjen gir også et nytt studieområde for UCLA College of Social Science som skrev mangfoldsrapporten. Det er også en mulig konkurransefortrinn for AI-firmaer som ønsker å vinne mer virksomhet innen det kreative feltet. Tillit er nøkkelen til å vinne mennesker når det gjelder AI, og forklarbarhet er nøkkelen til å bygge den tilliten.

Data, Analytics og AI Nyhetsbrev

Få eksperttips for å mestre grunnleggende grunnleggende analyser av data, og følg med på den siste utviklingen innen kunstig intelligens. Leveres mandager

Registrer deg i dag

© Copyright 2021 | mobilegn.com