Počítače a nejrůznější softwary jsou součástí našich životů už desítky let, pomáhají nám s prací, zábavou i komunikací. Nástup generativní umělé inteligence byl považován za revoluci. Nyní stroje na základě zpracovaných dat samy tvoří texty, obrázky, videa nebo hudbu. Tento posun nejen otevírá nové možnosti, ale také vyvolává důležité otázky o spolehlivosti výsledků, možnostech využití či vlivu technologií na společnost.
Od listopadu 2022, kdy byl veřejnosti představen chatbot společnosti OpenAI – ChatGPT, se umělá inteligence stala celosvětovým fenoménem. Své místo už AI našla v mnoha oblastech lidské činnosti jako jsou firemní procesy, zákaznické služby, e-commerce, zdravotnictví, zábavní průmysl aj. Ukazuje se však, že praktické využívání AI stejně nakonec vyžaduje dohled a ověření člověkem. A že nekritické přijímání výsledků práce AI modelů může vést k genderově, rasově či jinak předpojatým rozhodnutím, a tedy k diskriminaci některých skupin společnosti. Když si uvědomíme šíři oblastí, v nichž jsou modely AI využívány, je obezřetnost na místě. Jedná se o to, že tyto technologie mimo jiné reprodukují stereotypy hluboce zažité v lidské společnosti.
Kde se tyto předsudky v technologiích vzaly?
Hlavní příčinou jsou podle odborníků stereotypy obsažené ve zdrojových datech, na nichž jsou AI modely trénovány. Nebo také data, která při trénování chybí (např. informace o menšinách). Dalším faktorem je nízký podíl žen působících v technologických firmách. O nutnosti většího zapojení žen do vývoje jazykových modelů hovořil již před 6 lety na Světovém ekonomickém fóru Allen Blue (jeden ze zakladatelů LinkedIn). Podle něj by větší diverzita v týmech vedla k efektivnějšímu strojovému učení a vývoji AI. Technologie by pak lépe odpovídaly potřebám různých skupin ve společnosti, přinášely inovativnější a efektivnější řešení, a naopak nepřispívaly k dalšímu prohlubování genderových nerovností.
Právě sociální síť LinkedIn je jedním z příkladů, jak mohou genderové stereotypy skrze strojové učení pronikat do našich reálných životů a následně je ovlivňovat. Vývojáři před několika lety zjistili, že seznam vhodných kandidátů, který byl předem přefiltrován strojovým učením a následně na síti nabízen firemním náborářům, neumísťoval vhodné kandidátky-ženy dostatečně vysoko v pořadí. Algoritmus musel být upraven tak, aby ženám, které odpovídaly požadovaným kritériím, náhodně nesnižoval prioritu. Genderovou zaujatost v obsazích generovaných třemi nejčastěji používanými platformami (GPT-3.5 a GPT-2 od OpenAI, Llama 2 od META) prokázal také výzkum UNESCO publikovaný v loňském roce.
AI: nejen předsudky a zánik pracovních míst, ale také nové příležitosti a vyšší efektivita
Využívání AI v oblasti náboru zaměstnanců má i kladné aspekty. Již zmiňovaný Allen Blue připomíná nutnost kombinovat vlastní úsudek s výsledky práce AI. Personalistům pak může využívání AI pomoci zvýšit objektivitu při náboru tím, že bude eliminovat jejich vlastní zaujatost, kdy jako my všichni vnímají druhé lidi primárně skrze vlastní zkušenosti.
Jednotný pohled na přínosy či rizika spojená s využíváním modelů umělé inteligence a obecně na další možnosti využití dnes nemají ani experti. Na jedné straně jsou velká očekávání, na druhé panuje skepse ohledně efektivnosti vzhledem k enormním nákladům na vývoj i spotřebu energie. Zatím též není zcela jasné, které pracovní pozice kvůli AI v budoucnu z trhu práce vymizí, anebo naopak vzniknou. Změny na trhu práce se podle odborníků dají očekávat spíše až v delším časovém horizontu. Kateřina Lesch (manažerka v oblasti datové analytiky a umělé inteligence ve společnosti EmbedIT) v rozhovoru pro web diverzita.cz říká: „AI podle výzkumů v technologiích nahrazuje především juniorní pozice, které jsou bohužel často obsazovány právě ženami. Výzvou může být najít pro ně smysluplné uplatnění.“ Ohledně možného ohrožení juniorních pozic však nepanuje shoda ani v odborném diskurzu. V blogu na webu České národní banky, který se odkazuje na zahraniční výzkumy, se naopak uvádí, že právě pro juniory může být využívání technologií AI největším přínosem. S pomocí AI chatbotů budou moci kompenzovat nedostatečné znalosti či zkušenosti a snižovat tak náskok seniorních kolegů. Za pozitivní vnímá Kateřina Lesch skutečnost, že již nyní AI sektor vytváří nová pracovní místa, na která absorbuje také mnoho lidí se zázemím i mimo technologie. A to by naopak mohlo pomoci ženám cestu k technologiím otevřít.
Ve zprávě Světového ekonomického fóra Global Gender Gap Report 2024 se uvádí, že zaměstnanost žen ve STEM oborech je 28,2 % ze všech zaměstnaných ve STEM (data ve zprávě vychází z analýzy sítě LinkedIn). Část pracovního trhu, která souvisí s vývojem aplikací AI, koncentruje vysoce kvalifikované pozice, v nichž působí zejména vysokoškolsky vzdělaní muži. Zpráva dále uvádí, že podíl expertek-žen se oblasti „AI Engineering“ mezi lety 2016 až 2023 více než zdvojnásobil. Ze všech žen majících profil na síti LinkedIn vzrostl podíl AI expertek z 0,09 % na 0,2 %. Pro srovnání, u mužů činil posun za stejné období z 0,18 % na 0,41 %. Za Českou republiku data ohledně zaměstnanosti v sektoru vývoje AI aplikací nemáme. Podle dat ČSÚ pracovalo v roce 2023 jako ICT specialisté/tky v ČR 2,3 % zaměstnané populace. Podíl žen mezi ICT specialisty byl 12 %.
Z výše uvedeného je patrné, že možnost tvořit diverzifikované pracovní týmy je v technologických firmách v Česku prozatím omezená. Že se i této oblasti blýská na lepší časy, můžeme vidět na vzrůstajícím podílu absolventek ICT oborů na vysokých školách, který v roce 2023 přesáhl 18,5 %. Právě ony přinesou do vývoje technologií nové nápady, perspektivy i zkušenosti.
Jaká pozitiva přináší práce v technologické firmě, se můžete dozvědět v rozhovoru se softwarovou inženýrkou Petrou Stehlíkovou v sekci Trochu jiná kariéra.
Zdroje:
BABECKÝ, JAN. Vliv umělé inteligence na trh práce. Online. 2024. Dostupné z: https://www.cnb.cz/cs/o_cnb/cnblog/Vliv-umele-inteligence-na-trh-prace/
British Broadcasting Corporation. The battle against AI bias. Online. 2019. Dostupné z: https://www.bbc.com/news/business-46999443
ČESKÝ STATISTICKÝ ÚŘAD. Digitální ekonomika v číslech. Online. 2024. Dostupné z: https://csu.gov.cz/produkty/digitalni-ekonomika-v-cislech-iecmll81wr
DIVERZITA. V Česku je stále nedostatek žen v technologických oborech. Pomůže umělá inteligence?. Online. 2024. Dostupné z: https://diverzita.cz/cs/aktualita/v-cesku-je-stale-nedostatek-zen-v-technologickych-oborech-pomuze-umela-inteligence
FEAST, JOSH. 4 Ways to Address Gender Bias in AI. Online. 2019. Dostupné z: https://hbr.org/2019/11/4-ways-to-address-gender-bias-in-ai
UNESCO. Generative AI: UNESCO study reveals alarming evidence of regressive gender stereotypes. Online. 2024. Dostupné z: https://www.unesco.org/en/articles/generative-ai-unesco-study-reveals-alarming-evidence-regressive-gender-stereotypes
WORLD ECONOMIC FORUM. Global Gender Gap 2024. Insight Report. Online. 2024. Dostupné z: https://www3.weforum.org/docs/WEF_GGGR_2024.pdf