Virksomhedens etiske fremtid

Cennydd Bowles er en digital produktdesigner og futurist med mange års brancheerfaring. Han har rådgivet virksomheder som Twitter, Ford, Cisco og BBC og fokuserer i dag på etik inden for nye teknologier og de virksomheder, der skaber dem. LEAD talte med Bowles om, hvordan vores samfund har ændret sig fra et teknologisk-etisk perspektiv.

LEAD: Etik har længe været ubetydelig for teknologivirksomheder, og det ser ud til, at kun dataskandaler tvinger virksomheder til at handle. Hvorfor er forretningen ikke etisk rettet mod mange virksomheder?

Cennydd Bowles: Der er simpelthen ingen belønningssystemer. Især styres Silicon Valley af den såkaldte Californiens ideologi. Denne forestilling om, at fremskridt i det væsentlige er en immateriel vare, der altid kommer verden til gode. Og nogle etiske tilgange skubbes ind i baggrunden i denne sammenhæng, fordi du vil skabe forstyrrende ændringer. Som beta-testning af en smuk, ny fremtid.

Etik er indtil for nylig blevet betragtet som en potentiel hindring af mange af disse virksomheder. En forhindring for at forhindre overtagelse. En hindring for langsom innovation. En forhindring for at forhindre fremskridt. For nylig har virksomheder indset, at disse etiske undladelser grundlæggende skader alle de ting, de ønsker at opnå. Måske er det derfor, at det hele nu er på dagsordenen. Etik var uden betydning i branchen, indtil den nåede et virkelig destruktivt punkt.

udstilling

LEAD: Du arbejder med virksomheder for at integrere en mere etisk tilgang i forretningen. Hvad er de største udfordringer, du står overfor?

Bowles: De største udfordringer er normalt kulturelle og ofte relateret til de mange målinger. For at spore livs- og dødsmetoder, datakrav og tællere. Faktisk tror jeg, at de fleste af de uetiske beslutninger, der træffes i en virksomhed, ikke kommer fra ledere – og heller ikke rammes af de normale medarbejdere. De har en tendens til at komme fra mellemledelse, fordi dette er de mennesker, der mest måles ved mål, men isolerede eller usynlige for øverste ledelse.

I bund og grund er det dem, hvis hals hænger i slyngen, når deres produkt ikke fungerer lodret. De, der derefter bliver fyret, overført eller sat på mindre spændende projekter. Jeg tror, ​​det er dem, der har tendens til at gøre moralske nedskæringer. Så hvis du har en sådan kultur, der belønner værdier, såsom store røde linjer, der peger til højre, vil mange af disse øverste ledelser eller seniorledere gøre etiske besparelser for at nå deres mål. Og hvis ledelsen ikke rigtig ved, at det vil ske, er der ingen måde for dem at gribe ind.

Selv hvis man forfølger en kultur, der generelt siger, at den eneste form for succes for virksomheden kun er overskud og vækst. Hvis dette er det eneste, det seniorlederteam er overbevist om, vil det være en usædvanlig vanskelig opgave at bringe etik til bordet. Og så skal det ikke bare handle om, hvordan folk tjener deres penge. Det handler også om, hvordan vi skaber en bedre verden. Hvis du derefter prøver at sidestille begge, vil det være ekstremt vanskeligt, fordi det ofte ikke fungerer.

LEAD: I din bog “Future Ethics” nævner du stigningen og vanskeligheden ved “tvingende” teknologi, der har aktiveret overvågningsmetoder, der får “1984” til at ligne et varmt Coke Light-glas. Hvordan kom vi til dette punkt?

Bowles: Der er to problemer her. Der er hvad der er blevet populært kendt som overvågningskapitalisme eller overvågning, og jeg adskiller mig let her, selvom de er forbundet. Jeg tror, ​​at jo mere du ved om en person, jo lettere er det at manipulere din adfærd. Farerne ved sådan design og sådan teknologi er, at de længe er blevet behandlet ukritisk. Vi ser virksomheder, der er stærkt involveret med millioner eller milliarder af brugere, og som har mistet synet på enkeltpersoner inden for denne gruppe. Menneskelige historier bliver eksperimentelle temaer. Hvordan kan vi øge konverteringsfrekvensen yderligere? Hvordan kan vi få yderligere tre procent af vores brugere til at dele fotos gennem vores service?

Dette får virksomheder til at gøre alt, hvad de kan, for at flytte nålen endnu længere mod højre – mest gennem AB-test og andre tilgange til ændring af brugeradfærd. Jeg har set materiale om sådanne tiltag i branchen, der har været ubestridt i alt for længe. Der var og er mennesker, der specialiserer sig i sådanne ting og har lavet en karriere. Og for nylig har disse samme mennesker indset, at de er på den forkerte side af den etiske mønt og nu frastøder sig selv med banen: ”Jeg ved, at alle de beskidte tricksfirmaer har forsøgt at manipulere brugeradfærd mig selv og jeg vil hjælpe dig med at gøre det samme etisk. ”Sådanne mennesker forblev under radaren i lang tid, indtil den etiske skitstorm, der blev sat i de sidste par år, og nu prøver de stadig at få en vis relevans eller magt at klæbe fast ved at placere sig selv, tror jeg, at sådanne mennesker har bragt os til det punkt, hvor vi er i dag.

Også interresting: modstand som en mulighed for forandring

BEMÆRK: Efter din mening, hvad sker der, hvis virksomheden og staten ikke handler? Bevæger vi os mod en dystopisk fremtid, hvor virksomheder har kontrol over, hvordan Blade Runner eller Cyberpunk tegner det?

Bowles: Teoretisk set har borgere i et demokrati kontrol, eller i det mindste en vis magt, over staten og kan sparke folk ud, hvis der bliver for mange etiske overtrædelser. Problemet her er to ting: For det første skal borgerne vide om sådanne ting, og så skal de handle. Mange ting forekommer skjult, og selv når de bliver offentlige, ser det ofte ud til, at offentligheden ikke er interesseret. Se på Snowden Affair, som ikke rigtig har ændret forbrugeradfærd. Eller Equifax-lækage af millioner af poster, adresser og kreditkortoplysninger.

Teoretisk set har enhver det valg at forlade et firma eller skifte service, hvis han eller hun ikke er enig med etik. Men det er ikke så let på internettet, fordi det har en tendens til at skabe monopol. I Metcalfean-loven hedder det, at i hvert vertikalt vil en dominerende spiller fremstå. Det har vi allerede med Søgning og sociale medier. Det sker sandsynligvis også med streaming, skønt der er en smule konkurrence lige nu. Generelt er det meget vanskeligt at logge ud af et system, når der ikke er nogen konkurrence. Hvis du vil skifte til et andet socialt netværk, har du problemet, at hvis dine venner ikke er det også, vil det være nytteløst for dig. Så du bliver hos den største.

Så der er risiko for en dystopisk fremtid, da de klassiske “get out” -regler ikke længere er gyldige. Jeg ser dog nogle lovende tendenser, især inden for den etiske bevægelse inden for teknologiindustrien. Der er arbejdere, der siger: “Jeg er ikke i færd med at udvikle det, jeg er ikke klar til at være en del af et firma, der tilbyder overvågningstjenester, der krænker etiske principper, og jeg tror, ​​at der er stort håb om, at denne bevægelse fortsætter med at sprede sig.

LEAD: Så vil du sige, at denne impuls skal komme fra græsrødderne eller fra deres repræsentanter?

Bowles: Dette er en smule regionafhængig. EU har især et større ønske om at regulere tech-virksomheder. GDPR var bare begyndelsen. Der vil sandsynligvis også være antitrust-retssager mod amerikanske teknologiselskaber eller handlinger mod politisk reklame. USA ønsker imidlertid ikke at regulere af åbenlyse grunde og ser altid middelet som en sidste udvej. Det siges derefter, at markedet allerede er selvreguleret, og især under den nuværende amerikanske regering, vil der ikke være meget ændringer. Et stærkt reguleret land er på den anden side Kina med sin store firewall, hvilket ikke er løsningen.
Men generelt vil politikerne ikke handle, før borgerne beder om det. Som repræsentanter for folket er de forpligtet over for deres vælgere. Når disse mennesker begynder at udøve kollektivt pres, vil vi sandsynligvis se ændringer. Det er dybest set det samme som klimaændringer. Politikere handler kun, når borgerne kræver det – og ikke et minut før. Du skal bare finde en måde at mobilisere folk på et emne og hjælpe dem med at tage ansvar for deres online præferencer. Men også at finde en måde at dele disse bekymringer med andre og derefter med deres repræsentanter. Jeg tror, ​​at vi på den måde får politiske ændringer og forordninger, hvor de er nødvendige. Og også i de lande, der er mindst bekymrede for etik, og det er selvfølgelig en lang vej. Det er en flerårig proces.

LEAD: Når det kommer til Scott Galloways bog, er de fire, Amazon, Apple, Facebook og Google de mest indflydelsesrige virksomheder i verden. Hvordan vil du bedømme de fire, når det gælder hvordan de driver deres virksomhed? Gør du det rigtige, som Googles paraplyfirma, Alphabet udtrykker det, i sin adfærdskodeks?

Bowles: Jeg ser positive fremskridt i nogle af disse virksomheder, men kun inden for udvalgte områder. Apple har for eksempel bestemt udpeget privatlivets fred som en etisk slagmark. Og især Google og Facebook bruger dem, ligesom våben til deres markedsføring. I henhold til mottoet: “Hvis du køber vores produkter og bliver en del af vores økosystem, er du sikker – i modsætning til alternative løsninger”. For eksempel arbejder Google på teknologier til forbedring af privatlivets fred, især databehandling på slutpunkter ved hjælp af kunstig intelligens. De følger fremgangsmåden med at have så lidt som muligt at sende til centraliserede datacentre og skysystemer. Men det er stadig en lang vej at gå, før noget er muligt for enhver teknisk applikation.

På et område er det dog først og fremmest de store virksomheder, der er meget engagerede i miljøbeskyttelse. For eksempel holder Facebook, Google og Apple mange af deres datacentre kliman neutrale. På den anden side er der dem, der lobbyer Washington og donerer til valgkandidater, der er imod LGBTQ-rettigheder. Det er en dobbelt standard at på den ene side engagere sig for de rigtige ting i nogle vertikaler og derefter opføre sig antisocialt og uetisk i andre. Dette er normalt for meget store virksomheder. De har bare ikke altid den samme moralske ramme.

BEGRUNDELSE: Er Millennials og Generation Z faktisk mere opmærksomme på det etiske problem end generationer før dem? Er det muligt som digitale indfødte, født i en netværksverden?

Bowles: Jeg siger meget tydeligt: ​​Ja. Der er mange ting, der siges at være Millenials, men de ældste er nu 37 år gamle. Dette er ikke længere en homogen gruppe, der kan generaliseres. Jeg tror, ​​at der er en mere værdiorienteret kultur blandt de yngre generationer, og klimaændringer har bestemt spillet en rolle her. Denne generation ser, at deres fremtid er blevet ødelagt af fejl i de sidste årtier. Så hvis du løser klimaproblemet, løser du sandsynligvis en masse andre ting, inklusive mange etiske problemer.

Jeg tror, ​​den yngre generation voksede op med erkendelsen af, at vi ikke kan fortsætte som før. Mens de ikke nødvendigvis forbereder sig på det forestående systemets sammenbrud, har de indset, at den lyserøde forestilling om endeløs vækst og uendelig livskvalitet simpelthen ikke fungerer. Så vi er nødt til at tage ansvar og forsøge at stoppe den værste udtømning af vores fremtid. Det sker allerede. Acceptgraden af ​​Facebook er faldet markant i de senere år på grund af den voksende toksicitet af mærket, og det skyldes, at denne generation er drevet af etiske motiver snarere end stigningen på karrierestigen.

“Moralsk forandring opstår kun gennem kollektiv tro og oplevelser af et samfund”

LEAD: Er der allerede lande, der griber ind for at gennemføre etiske foranstaltninger?

Bowles: Et land kan ikke rigtig gøre meget for etik. Det kan kun lovgive og regulere. Selvom en lov er en nyttig støtte, er den ikke et reelt grundlag for moral. Fordi i sidste ende siger du: Alt, hvad der ikke får dig i fængsel, er fint. Moralsk ændring opstår faktisk kun gennem kollektiv overbevisning og oplevelser af et samfund. Den slags ting har dog fungeret i Indien til en vis grad. Der var en retsafgørelse, der har skabt mange sociale ændringer omkring privatlivets fred. Højesteret i Indien har afsagt, at privatlivets fred er en menneskerettighed. Dette er en holdning, som meget få andre lande repræsenterer. Det var denne jurisdiktion, der derefter udfordrede forbuddet mod homoseksualitet i Indien – en arv fra britisk kolonitid. Og endelig blev forbuddet ophævet, fordi det betragtes som en privat sag. Min egen seksualitet er kun for mig og ingen andre.

På denne måde kan sociale ændringer udløses af lovgivningsmæssige og juridiske ændringer. Tyskland er af åbenlyse grunde meget mere opmærksom på databeskyttelse end noget andet land i Europa, da det led i årevis under et totalitært regime. Og også i de skandinaviske lande bevæger emner som etik ind i offentlighedens bevidsthed.

LEAD:Hvad rådgiver du virksomheder, der har indset, at de er nødt til at ændre sig? Hvad ville være dit vigtigste råd til nystartede virksomheder og unge virksomheder, der stadig forme deres virksomhedsidentitet?

Bowles: Det er sværere for nystartede virksomheder, fordi emnet virker mindre relevant for dem. Når jeg taler med nystartede virksomheder, ser de etik som et problem for store virksomheder. De er selv mere bekymrede for deres løn, hvordan man finder en bæredygtig forretningsmodel og hvordan man bringer produktet på markedet. Start-ups handler om kultur og ansættelse af personale. Når du ansætter de første ti mennesker og ser på etisk moral, begynder du at rekruttere folk, der træffer de rigtige beslutninger ikke kun for virksomheden, men til brugervenlighedens velbefindende eller endda samfundets goder.

Sådan tidlig rekruttering forme virksomhedskulturen stærkt. I større virksomheder er der allerede en kultur – etisk eller ej. De større virksomheder er faktisk mere interesseret i hvad siger vi, og hvordan handler vi, når det kommer til moralske spørgsmål? Er det den slags virksomhed, vi ønsker at være? Og så justerer de deres belønningssystemer i overensstemmelse hermed. Hvis du forfølger mål, der fører til etiske kompromiser, er du nødt til at afskaffe disse mål. Eller i det mindste balance det med andre mål. Akademiske institutioner har for eksempel mange mennesker, der kan hjælpe sådanne virksomheder med disse spørgsmål, men som aldrig bliver hørt. Der er stadig meget potentiale her.

Du er måske også interesseret i dette: Hvordan kan man opnå en etisk tilgang til AI?

Bly 4 Cta 1200X1200 V3 juli 002 Ny

Fagfolk har valget i dag. Arbejdsgiveren har derfor meget at tilbyde. En klar kultur af værdier, mangfoldighed og holdning – det er øverst på dagsordenen! I den nuværende LEAD Bookazine 2/2019 vil du nu læse om den nye magt hos faglærte medarbejdere, omskoling af it-omskoling og ledere af gør-det-selv.

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *