Když se živíte programováním a kódováním webu, je pravděpodobné, že jednoho dne někdo přijde a bude po vás chtít naprogramovat něco, co nebude tak docela košer, případně co bude otevřeně neetické.

Mně se to stalo v roce 2000 a nikdy na to nedokážu zapomenout.

První řádku kódu jsem napsal, když mi bylo šest. Nejsem ovšem žádné zázračné dítě, dost mi tenkrát pomáhal táta. Ale už jsem byl chycený. Zamiloval jsem si to.

Když mi pak bylo šestnáct, přivydělával jsem si v tátově konzultační firmě. Stavěl jsem webové stránky, po víkendech a o prázdninách jsem programoval drobné komponenty pro aplikace.

Pracoval jsem tragicky pod cenou, ale jak můj táta rád podotýkal, měl jsem zadarmo pokoj a stravu a taky dost cennou pracovní zkušenost.

Když jsem byl ještě o něco starší, dokázal jsem si z programování na volné noze částečně platit studia. Stavěl jsem tenkrát pro menší místní firmy jedny z prvních e-commerce webů

Když mi bylo jedenadvacet, začal jsem na plný úvazek pracovat pro jednu firmu z Toronta, která se zabývala interaktivním marketingem. Tu firmu založil doktor medicíny a řada jeho klientů patřila mezi velké farmaceutické firmy.

V Kanadě mají velice přísná pravidla, pokud jde o reklamu na léky na předpis cílenou na koncového zákazníka, a tak si farmaceutické firmy nechávají vytvářet webové stránky, které plní obecnými informacemi o všech symptomech, na které by měly zabírat jejich léky. Potom, když návštěvník prokáže, že má recept, dostane přístup k „portálu pacienta“, kde na něj čekají podrobnější informace o daném léku.

Jeden z projektů, na kterých jsem pracoval, se týkal jistého léku určeného ženám. Klient chtěl stránku cílit, jak zcela jasně plynulo z jejího grafického zpracování a obecně stylu, zejména na teenagerky.

Jen si tak hrajeme... Programování je zábava a zvládnete to levou zadní. Prý. Programování je ale spíš vysoce kvalifikovaná činnost, která vyžaduje nevšední soustředění a zaujetí. Proč by se o programování mělo mluvit jako o legraci a proč by se tak nemělo mluvit o operování mozku? A je zábava programovat samořiditelné auto nebo poloautonomního vojenského robota? Programování není žádná zábava

Jedním z prvků stránky byl kvíz, ve kterém dívky měly odpovědět na sérii otázek; na základě jejich odpovědí jim byl doporučen typ léku.

Připomínám, že se ta stránka tvářila jako web s obecnými informacemi, že to nebyla zřetelná reklama na konkrétní léčivo.

Když jsem dostával zadání, mimo jiné v něm byly kvízové otázky a sada možných odpovědí na každou z nich.

Chyběl ale jakýkoli náznak, co se má na konci kvízu stát se zadanými odpověďmi. Na základě jakých pravidel má kvíz doporučit nějaký léčebný postup?

Promluvil jsem si o tom s account managerem, který napsal klientovi a vyžádal si pro mě upřesněné zadání. S ním jsem pak kvíz doprogramoval.

Moje projektová manažerka se rozhodla, že web ještě před odevzdáním zákazníkovi rychle projde. Vyzkoušela si vyplnit kvíz a pak se stavila u mého stolu:

- Ten kvíz nefunguje, říká.

- Co je v nepořádku? já na to.

- No, vypadá to, že bez ohledu na to, co zadám, mi jako nejlepší léčba vyjde lék našeho klienta. Jediná výjimka je, když zadám, že mám alergii. Nebo když zaškrtnu, že už to beru.

- Takhle to bylo v zadání. Vždycky to vede k léku od klienta.

- Aha. Oukej. Cool.

A byla pryč.

Přál bych si, abych mohl říct, že když jsem poprvé viděl to zadání, znepokojilo mě. Přál bych si, abych mohl říct, že jsem cítil, že kódovat něco, co je od základů vymyšlené k balamucení mladých holek, je špatné. Pravda je ale taková, že jsem o tom moc nepřemýšlel. Dostal jsem práci a udělal jsem ji.

Nic z toho, co jsme dělali, nebylo nezákonné. Jako nejmladší vývojář v našem týmu jsem si přišel ve svém věku na dobré peníze. Nakonec jsem si srovnal, že pravým účelem té stránky bylo tlačit jeden konkrétní lék. A rozhodl jsem se, že za tuhle taktiku je odpovědný „marketing“.

Náš klient byl se svou stránkou nesmírně spokojený. Až tak, že mě a celý náš tým pozval na luxusní večeři se stejky.

Ten den, kdy se večeře měla konat, chvíli před tím, než jsem chtěl odejít z práce, mi přišel mail od kolegy. Byl v něm odkaz na internetové noviny, na článek o mladé dívce, která brala lék, kvůli kterému jsme stavěli ten web.

Zabila se.

Vyšlo najevo, že mezi četnými vedlejšími efekty toho léku byla také urputná deprese a sebevražedné myšlenky.

Kolega, který mail poslal, se na večeři neukázal.

Já nakonec šel. Bylo to těžké a bylo to divné. Ani jednou jsem se o těch zprávách nezmínil, jen jsem tiše jedl stejk, a jak jen to šlo, se nutil do úsměvů.

Druhý den jsem volal sestře, bylo jí tenkrát devatenáct. Když jsem na projektu začal pracovat, přišli jsme na to, že jí předepsali právě ten lék, pro který jsem web stavěl web.

Když jsme se o tom spolu bavili poprvé, přišlo mi to jako roztomilá souhra náhod. Teď byl tón našeho rozhovoru podstatně odlišný. Radil jsem jí, aby bez odkladu přestala lék brát. Naštěstí poslouchala, co říkám.

Je milion způsobů, jak si ospravedlnit svůj podíl na pozdějších sebevraždách a depresích, kterými někdo trpěl. Dokonce ještě dnes pokračují spory s bývalými pacienty.

Je snadné najít argument, že jsem na tom všem neměl žádný podíl. Jenže já se nikdy nesmířil s tím, že jsem tu stránku nakódoval.

Od večeře s klientem neuplynulo moc času a já podal výpověď.

Jako vývojáři jsme často jednou z posledních linií obrany proti potenciálně nebezpečným a neetickým praktikám.

Blížíme se k době, kdy software bude řídit auto, které poveze vaši rodinu na fotbalový trénink. Už teď je naprogramovaná umělá inteligence, která pomáhá lékařům s diagnózami. Není těžké si představit, že jim brzy bude také radit, jaký lék předepsat.

Čím víc software přebírá pod kontrolu další a další aspekty našich životů, tím důležitější pro nás bude trvat na zásadě, že v našem kódu bude vždycky přítomná etika.

Po téhle zkušenosti se snažím pokaždé dvakrát promyslet, jaké důsledky bude mít kód, který napíšu. Doufám, že to budete zkoušet i vy.

S laskavým svolením autora přeloženo z anglického originálu uveřejněného na webu freeCodeCamp