Inteligencja?

Około 13.5 miliarda lat temu, w wyniku zjawiska, które nazywamy Big Bang, powstały materia, energia, czas i przestrzeń.
To wydarzenie nazywamy fizyką.
Około 3 tysiące lat później, materia zaczęła formować atomy, które z kolei łączyły się w molekuły.
Historię atomów, molekuł i ich wzajemnego oddziaływania nazywamy chemią.
Około 3.8 miliardów lat temu, na planecie zwanej Ziemia, molekuły zaczęły się łączyć w wyjątkowo duże i skomplikowane struktury nazwane organizmami.
Naukę o organizmach nazywamy biologią.

Yuval Harari - Sapiens.

Dobiegam do końca książki Machines behaving badly. Morality of AI.  (Maszyny zachowujące się źle. Moralność SI (Sztucznej Inteligencji).

Wstępny cytat z innej książki to nie pomyłka.
Po pierwsze Sapiens kończy się wzmianką o SI i sugeruje, że może ona oznaczać koniec Ludzkości w tradycyjnym zrozumieniu tego słowa więc logiczne, że sięgnąłem po książkę na ten temat.
Po drugie - zawarta w cytacie klasyfikacja dziedzin nauk pozwoliła mi na umiejscowienie SI w należnej jej kategorii.

Sztuczna Inteligencja - co to właściwie jest?
Wikipedia kręci od samego początku...
Wersja angielska - na początku używano tego terminu w odniesieniu do maszyn, które wykazywały "ludzkie" cechy poznawcze takie jak uczenie się i rozwiązywanie problemów.
Definicję tę odrzucono i obecnie uważa się, że SI oznacza maszyny zachowujące się racjonalnie - LINK.
A co to znaczy racjonalnie?

Wersja polska wydaje mi się lepsza - "...zdolność systemu do prawidłowego interpretowania danych pochodzących z zewnętrznych źródeł, nauki na ich podstawie oraz wykorzystywania tej wiedzy, aby wykonywać określone zadania i osiągać cele poprzez elastyczne dostosowanie.." -  LINK

Książka, o której dziś piszę nie zawiera definicji, zabiera się od razu do analizy metod i skutków działania SI i na marginesie zauważa, że... gdy człowiek wsadzi palec do ognia, natychmiast cofnie go i może na dodatek krzyknie. Inteligencja nie ma tu nic do gadania - to jest wyłącznie chemia i biologia.

Jak dotąd w porządku, maszyna nie potrzebuje bólu żeby dojść do wniosku, nie należy zbytnio zbliżać się do ognia, załatwią to czujniki temperatury. Nie wspomnę już, że czujniki potrafią również wykryć w powietrzu niewykrywalny przez ludzkie zmysły czad i ochronić nas przez zatruciem.
Wykryć, nie wyczuć - to według mnie istotne.
Człowiek, który poczuł ból, może zrozumieć innego człowieka, może poczuć potrzebę ofiarowania komuś pomocy.
To może się okazać nieracjonalnym działaniem, może przeszkodzić w wykonaniu jakiegoś absolutnie racjonalnego zadania, ale to jest ludzkie.
Dlatego spodobała mi się propozycja autora książki - Toby Walsh - aby skrót AI (Artificial Intelligence) tłumaczyć jako Alien Intelligence - Obca Inteligencja.
Niestety po polsku to nie wychodzi.

Od tego momentu książka przechodzi do konkretów i opisuje sporą ilość konkretnych przypadków gdy maszyny zawiodły ludzkie oczekiwania lub działanie maszyn przyniosło nieoczekiwane lub niepożądane skutki uboczne.

Zanim przejdziemy do skutków dwa słowa o tym kto rządzi Sztuczną Inteligencją.
Ludzie, którzy piszą programy dla SI - autor określa ich jednym słowem - geeks - osoby pochłonięte jakąś, często bezużyteczną, pasją, odstające od norm społecznych.
Z informacji dostarczanych przez Google widzę, że termin ten mocno się ostatnio nobilituje. To chyba oczywiste.
Miejsce, w którym rodzi się najwięcej pomysłów związanych z SI - Dolina Krzemowa.
Autor nazywa ją Doliną Lunatyków. 
W tym miejscu rodzą się najbardziej nieprawdopodobne pomysły i znajdują się tu klienci gotowi zainwestować grube pieniądze bo a nuż to się zwróci wielokrotnie.
Firmy, które wdrażają to w życie i sprzedają klientom - Amazon, Google, Microsoft, Apple, Facebook...
Wszystkie wyróżniają się w niepłaceniu podatków i łamaniu prawa.

Witamy na pokładzie.

Książka informuje o licznych inicjatywach mających na celu dostosowana SI do aktualnych norm społecznych. Rzecz w tym, że te normy społeczne zmieniają się ostatnio jak w kalejdoskopie.

Istotny temat to fairness czyli czysta gra - uczciwość, bezstronność, sprawiedliwość.
Rzecz w tym, że podstawą do podejmowania decyzji przez maszyny są najczęściej dane statystyczne.
Statystyka czyli historia.
Jest powiedzenie - historia lubi się powtarzać.
Ona musi się powtarzać bo podstawą do podejmowania decyzji są dane historyczne.

System planujący rozkład jazdy patroli policyjnych kieruje je do dzielnic o największej ilości przestępstw. 
Mieszkańcy tych dzielnic uważają to za przejaw rasizmu.

Towarzystwa ubezpieczeniowe wyznaczają wyższe stawki dla dzielnic gdzie jest duża ilość włamań i kradzieży.
Tak się składa, że mieszka tam dużo biednych ludzi - dyskryminacja.

Mamy wiele systemów które komunikują się z użytkownikiem głosowo.
Dlaczego w większości przypadków jest to głos kobiecy?
Dyskryminacja - redukowanie kobiet do roli recepcjonistek.
I do tego te imiona służebnych robotów - Aleksa, Siri, Cortana.

I odwrotna strona medalu.
Robot rozpoznający głos ludzki.
W USA jest wiele skarg, że te roboty gorzej rozpoznają głosy "czarnych" - dwa razy więcej skarg, że ich głos nie został rozpoznany.
Ja też jestem tego ofiarą, silny polski akcent.
Przyjmuję to ze zrozumieniem - robot "zna" język angielski.
Australijczycy często nie rozumieją mojej wymowy niektórych słów i nie mam do nich o to pretensji.
Dlaczego robot ma być lepszy?
Na pocieszenie mam wspomnienie z Kuwejtu.
Byłem tam na jakiejś technicznej prelekcji prowadzonej przez angielskich konsultantów.
Po prelekcji kilku Palestyńczyków zgłosiło się do mnie z prośbą:
- Lech, co oni mówili? Wytłumacz nam bo Twój angielski jest dużo lepszy.

I jeszcze jedno - rozpoznawanie wzrokowe.
Autor podaje przykłady pomyłek, głównie systemów kierujących samochodami.
Znowu skandal - robot miał trudności w odróżnieniu osoby ciemnoskórej od goryla.
Testowanie wykazało, że ten sam robot ma trudności odróżnienia osoby jasnoskórej od foki (??).
Dlaczego akurat foki?

Zakończę dowcipem.
Kierowca samochodu wraca roztrzęsiony do bazy.
- Co się stało?
- Nie, nic, ale powiedz - jaki duży może być pingwin?
- No, chyba taki - rozmówca pokazuje dłonią na wysokości pół uda.
- Ale takie największe pingwiny?
- No może takie - wskazuje na wysokości pasa.
- Choroba, to ja jednak zakonnicę przejechałem.

Wydaje mi się, że ten kierowca miał lepsze skojarzenie niż robot.