Sztuczna inteligencja zaskoczyła ograniczeniami – roboty z ludzkimi uprzedzeniami?
Wysyłasz dziesiątki CV, a mimo wszystko nikt się nie odzywa? Winny może być robot.
Jednym z obszarów, w których zauważalny jest wpływ sztucznej inteligencji na przepływ procesu, jest rynek pracy. Czy zdarza Ci się, że szukając nowej pracy trafiasz na stanowisko niczym „skrojone” pod Ciebie? Spełniasz dokładnie każde wymaganie i marzysz właśnie o tej posadzie. Wysyłasz CV, list motywacyjny i…po 4 miesiącach nadal nikt się nie odzywa albo, po krótkim czasie dostajesz automatyczną odpowiedź, że Twoje CV nie przeszło wstępnej weryfikacji…
Zastanawiasz się co poszło nie tak? Za tym bałaganem może stać automat oparty o sztuczną inteligencję.
Oprogramowanie na zamówienie często posiada algorytm dostosowany do potrzeb danego projektu. W przypadku rekrutacji, warunki ustawia się w określony sposób, aby to system przeprowadzał wstępną weryfikację napływających aplikacji. Wszystko po to, aby rekruterom oszczędzić konieczności przeglądania CV, zupełnie niespełniających wymagań stanowiska i poświęcić czas na tych, którzy tym wymaganiom sprostali. Niestety, okazuje się, że systemy wraz z rozwojem, stają się bardziej ułomne.
Roboty uprzedzone do płci, pochodzenia, koloru skóry…
Sztuczna inteligencja rozwija się dynamicznie. Nie można zaprzeczyć, że dzięki machine learning wiele procesów zostało zautomatyzowanych i to w różnych obszarach. Pozwoliło to zwiększyć efektywność zarówno wydajnościową jak i kosztową wielu przedsiębiorstw. W Stanach Zjednoczonych machine learning gości na co dzień w aplikacjach dedykowanych obsługujących obywateli. Instytucje finansowe i społeczne korzystają ze sztucznej inteligencji w celu usprawnienia analizy i przepływu dokumentów czy realizacji wniosków finansowych.
Okazuje się jednak, że wraz z postępem systemy zaczynają przejawiać ludzkie ograniczenia. Pojawia się coraz więcej uwidaczniających to przykładów.
Amerykański „Financial Times” podaje, że przez dyskryminujące zachowanie algorytmów w oprogramowaniach opartych na sztucznej inteligencji, instytucje, a także obywatele, zaczynają odczuwać realne straty. W stanie Idaho system Medicaid obniżył zasiłki aż 4 tysiącom osób niepełnosprawnych, z pobudek płciowych i pochodzeniowych.
Ostatecznie, Stan wycofał system z obsługi interesantów, a na wdrożenie oczekuje jego następca. Choć już w fazie testów Medicaid wykazywał „objawy” czy „zachowania” ze znamionami uprzedzeń społecznych, nikt wówczas nie traktował poważnie takiego zagrożenia. Widać jednak, ze sztuczna inteligencja, jakkolwiek by na to nie spojrzeć – rozwija się zgodnie z założeniami i czerpie z przykładów, jakimi są ludzkie zachowania. W tym przypadku niestety tych negatywnych.
Software house na straży równości?
Niezależnie od prywatnych poglądów politycznych i własnych opinii, deweloperzy pracujący nad rozwojem systemów opartych o AI i rozwojem samego algorytmu, muszą pozostawać bezstronni. Oznacza to, że wypuszczane do obiegu systemy muszą być wolne od jakichkolwiek uprzedzeń, a zabezpieczenia związane z potencjalnym rozwojem algorytmu w tym kierunku – wzmocnione. IBM poinformował, że wszystkie systemy ze sztuczną inteligencją, wychodzące z ich „produkcji” zostaną oczyszczone z jakichkolwiek uprzedzeń i znamion dyskryminacji.
Okazuje się jednak, że nie tylko Medicaid stał się systemem opartym na uprzedzeniach. Z podobnym problem zetknęli się tacy giganci, jak Amazon czy Microsoft.
W przypadku tego pierwszego, algorytm uznał, że nie ma sensu wdrażać nowej usługi PRIME w dzielnicach zamieszkiwanych przez mniejszości rasowe.
Drugi zaś musiał się poważnie tłumaczyć się z zamieszczanych przez algorytm, dyskryminujących ruchy feministyczne komentarzy na Twitterze. Tutaj reakcja była niemal natychmiastowa, a bot został wyłączony w ciągu 24h. Jednak… uszczerbek na wizerunku mimo wszystko nastąpił.
Ostatnie wpisy
Twoja wiadomość została wysłana. Dziękujemy!
Krótki przewodnik po automatyzacji biznesów
Jesteś zainteresowany ofertą?
Zobacz także
Ostatnie wpisy
Dlaczego UX/UI w projektowaniu aplikacji mobilnych ma znaczenie?
Dlaczego UX/UI w projektowaniu aplikacji mobilnych ma znaczenie? W dzisiejszym świecie aplikacji mobilnych, projektowanie UX/UI aplikacji mobilnych jest kluczowym elementem, który decyduje o ich sukcesie. Bez odpowiedniego designu użytkownik szybko traci zainteresowanie, a sama aplikacja może zostać uznana za niewartą dalszego użytkowania. UX i UI to dwa filary, które wpływają na to, jak użytkownicy postrzegają […]
Czym jest Transformacja Cyfrowa i Jakie Korzyści Przynosi Twojej Firmie?
Transformacja Cyfrowa – Nowa Era dla Biznesu W dobie dynamicznego rozwoju technologii coraz więcej firm decyduje się na przeprowadzenie transformacji cyfrowej procesów. Nie jest to jedynie moda, ale strategiczna potrzeba, która wpływa na rozwój i konkurencyjność przedsiębiorstw na globalnym rynku. W tym artykule przedstawimy, czym jest transformacja cyfrowa, jakie korzyści przynosi firmom oraz jak prawidłowo […]
Automatyzacja Back Office: Jak Zoptymalizować Procesy Biznesowe
Automatyzacja Back-Office: Jak Zoptymalizować Procesy Biznesowe i Zwiększyć Efektywność Automatyzacja back-office zyskuje na znaczeniu wśród przedsiębiorstw, które chcą zoptymalizować swoje operacje, zwiększyć efektywność i zmniejszyć koszty. Zastosowanie technologii, takich jak Robotic Process Automation (RPA), pozwala na automatyzowanie powtarzalnych, rutynowych zadań, co umożliwia pracownikom skupienie się na bardziej zaawansowanych procesach i innowacyjnych działaniach. Wdrażanie automatyzacji w […]
Jak zbudować skuteczne rozwiązania Machine Learning
Jak zbudować skuteczne rozwiązania Machine Learning W dzisiejszym, dynamicznie rozwijającym się świecie technologii, Machine Learning (uczenie maszynowe) jest jedną z kluczowych technologii transformujących różne branże. Umożliwia analizowanie ogromnych zbiorów danych, automatyzację procesów oraz dostarczanie nowych, nieocenionych wniosków biznesowych. Firmy coraz częściej sięgają po rozwiązania ML, aby zwiększyć swoją efektywność i zdobyć przewagę konkurencyjną na rynku. […]
Software House z Certyfikatem ISO 27001?
Dlaczego Warto Wybrać Software House z Certyfikatem ISO 27001? W dzisiejszym cyfrowym świecie, gdzie bezpieczeństwo danych staje się priorytetem, coraz więcej firm szuka partnerów, którzy nie tylko tworzą oprogramowanie, ale również gwarantują najwyższy poziom ochrony informacji. Wybór odpowiedniego software house może być kluczowy dla sukcesu projektu, zwłaszcza gdy w grę wchodzi przetwarzanie danych osobowych lub […]
Design System: Czym Jest i Jak Go Stworzyć dla Aplikacji Mobilnych i Webowych
Czym jest Design System W dobie dynamicznego rozwoju technologii cyfrowych, tworzenie spójnych i efektywnych interfejsów dla aplikacji mobilnych i webowych staje się kluczowe. Design Systemy stają się nieodłącznym elementem nowoczesnego projektowania, ułatwiając proces tworzenia produktów cyfrowych. Co to jednak jest Design System i dlaczego warto go wdrażać?Design System to zestaw zasad, narzędzi i komponentów, które […]
Architektura aplikacji internetowej i proces tworzenia aplikacji webowych
Architektura aplikacji internetowej i proces tworzenia aplikacji webowych Aplikacje internetowe występują pod wieloma nazwami. Możesz spotkać się z określeniem „aplikacja webowa” (z angielskiego web app) lub nawet „aplikacja www”. We wszystkich przypadkach chodzi o to samo. Chyba najlepiej rozpoznawanym przykładem aplikacji internetowej jest Dysk Google. To tak naprawdę bardzo zaawansowana aplikacja wchodząca w skład ekosystemu […]
Jak wygląda proces tworzenia oprogramowania, proces wytwarzania oprogramowania? Etapy i aplikacja
Jak wygląda proces tworzenia oprogramowania, proces wytwarzania oprogramowania? Etapy i cykl tworzenia oprogramowania Proces tworzenia oprogramowania jest złożony, a tym samym wymaga wielu etapów i działań. Wiele osób błędnie myśli, że ten proces zaczyna się od pisania kodu. Początkową fazą jest tak naprawdę faza projektowa, która jest jednym z najważniejszych etapów tworzenia oprogramowania. Zanim programista […]
Symfony vs Laravel: Który framework PHP wybrać? Porównanie kluczowych różnic
Wybór odpowiedniego frameworka PHP jest jednym z kluczowych kroków w procesie tworzenia aplikacji webowych. Dla wielu programistów i firm stojących przed tym dylematem, najczęściej pojawiającymi się opcjami są Symfony i Laravel. Oba frameworki są open source, oferują bogaty zestaw funkcji oraz wsparcie dla różnych platform, jednak różnią się pod wieloma względami. W tym artykule dokładnie […]