Introduktion av komplexa datorsystem i fordon En diskussion kring införandet av navigationssystem i bilar Mikael Erlandsson – IT och Etik, VT04 Sammanfattning: I detta PM har det problematiserats kring de potentiellt kognitivt överbelastande navigationssystem som börjat införas i många personbilar. Det har diskuterats kring ITetikens användbarhet i detta sammanhang. Argument för att navigationssystemets införande skulle vara rent av oetiskt har lagts fram. En Autonomy Analysis har använts som verktyg för att få en mer autonom syn på problemställningen. Diskussionen har även innefattat den allmänna moralen inom IT-sektorn, samt hur denna kan förbättras, till exempel genom datoriserade beslutsstödsystem eller riktlinjer. Problemställning Nästan alla branscher påverkas genom att IT införs på något sätt. Inom transportsektorn (bil, fartyg, flyg, tåg, buss, lastbil, etc.) införs komplexa, kognitivt krävande hjälpmedel på löpande band som ett naturligt steg i den tekniska utvecklingen. Fartyg utrustas med ytterligare navigationsutrustning som i många fall är mer kognitivt belastande än den traditionella utrustningen. Ofta handlar det om abstrakt och processad information som visualiseras på datorskärmar. Lyxmodeller av olika bilmärken standardutrustas med elektroniska navigationssystem där föraren helt plötsligt förväntas kunna interagera med ett kartsystem (antingen audiellt eller visuellt) samtidigt som man ska hantera den traditionella styruppgiften. Marknaden och den teknologiska utvecklingen driver biltillverkare att installera dessa typer av verktyg. Det som finns i lyxbilarna sprids med tiden till merparten av alla bilar. Företaget J.D. Power arbetar professionellt med att ge relevant och förlitlig information till företag i många olika branscher, bland annat bilindustrin. Enligt artikeln ”In-Vehicle Navigation Systems: Interface Characteristics and Industry Trends” av R. Llaneras och J. Singers, så rapporterar J.D. Power att 54 olika bilmodeller i USA erbjöd kunden ett navigationssystem som standardutrustning eller extrautrustning år 2002. Dessutom uppskattar J.D. Power att 30 procent av alla nya fordon kommer vara utrustade med navigationssystem år 2006. Jag med flera frågar sig: Är det försvarbart ur ett etiskt perspektiv att släppa lös dessa bilar? Hos vem ligger ansvaret? Kan IT-etik vara till hjälp i detta sammanhang? Det finns en viss skillnad mellan exemplet ovan och mer klassiska exempel på IT-etiska problemställningar; till exempel att samköra register, eller att anonymt duplicera stora mängder information på ett osynligt sätt. De senare två är exempel på något som möjliggörs genom IT, och jag anser sådana exempel motiverar en disciplin inom datoretik. Om sedan det är en egen disciplin eller ryms inom de existerande, är av underordnat intresse. Huvudsaken är att de datorspecifika frågeställningarna får utrymme att redas ut på ett tillräckligt sätt. Men vad är då skillnaden mellan införandet av IT och dåtidens införande av till exempel tryckpressen? Även tryckpressen möjliggjorde i viss mån att till exempel duplicera information snabbt och osynligt, på ett sätt som inte varit möjligt innan dess. Innebär detta att skillnaden mellan IT och tryckpressen endast medför en kvantitativ förändring? Eller är det kanske så att de kvantitativa förändringarna, skapar nya kvalitativa förändringar? Förmågan att utan ansträngning processa enorma kvantiteter av data, kan ju anses skapa nya kvaliteter som inte funnits innan, eftersom nya former av processad information helt plötsligt blir tillgängliga. Walter Maner nämner ett antal ”levels of justification” i sin artikel ”Unique ethical problems in Information Technology”. Under level 3 argumenterar han för att IT kommer att fortsätta att skapa tillfälliga ”policy vacuums”. Jag håller med Maner om att det kommer att fortsätta att uppstå ”policy vacuums” och att dessa måste studeras med hänsyn till etiska aspekter. Det faktum att hela vårt samhälle håller på att förändras genom den snabba utvecklingens som vi lever i, kräver en effektiv och målinriktad fokus på de problem som uppstår. Biotekniken skapar stora ”policy vacuums”, kärnkraften (mer mekanik än informationsteknologi initialt) skapade liknande dilemman som fortfarande tvistas och skapar debatt. IT är ytterligare ett sådant område, bara med en signifikant skillnad. Nämligen att nästan alla människor påverkas på ett relativt konkret plan; i form av förändrad arbetssituation, kanske också påverkas ens fritid och nöjen, kanske till och med hela ens livssituation. Att stjäla en bilförares uppmärksamhet genom införandet av ett datoriserat hjälpmedel (exempelvis en kartdator) är i den bemärkelsen mer av ett klassiskt etiskt problem. Enligt Moor’s definition av datoretik, så handlar det om ”policy vacuums” och ”conceptual muddles” kopplat till sociala och etiska aspekter på användandet av informationsteknologi. Ur det perspektivet så räknas nog dock problematiken i bilexemplet till datoretikområdet. Men samtidigt så kan ju införandet av kartdatorer också till exempel jämställas med de svajande tyg-tärningar man ser hängandes från vissa personers innerbackspeglar, då båda två faktiskt riskerar att stjäla förarens uppmärksamhet (oavsett om det är IT eller inte). Fortfarande är det ju dock så att någon (utvecklarna?) måste upptäcka och hantera de moraliska dilemman som uppstår i samband med utvecklingen av nya hjälpmedel. Om ingen upptäcker de potentiella problemen eller inte bryr sig om att ta hänsyn till dem, så är det väldigt lätt att blunda för dem. I Chuck Huff’s artikel ”Unintentional power in the Design of Computing Systems” hävdas det att; med kunskap följer ökat ansvar. Om man tänker sig att en företagsledare som främst drivs av vinstintressen får bestämma, så kanske det blir de kortsiktiga ekonomiska fördelarna som får styra trots kännedom om eventuella risker. Om man inte förmår att se hela problembilden är det lätt att man väljer ett alternativ som är bäst ur sitt eget perspektiv. Författarna till artikeln ”Ethics and consumer electronics” försöker med ett logiskt resonemang argumentera för att det är den nuvarande situationen inom bilindustri är oetisk. De börjar med att ställa upp ett antal faktum: Bevarande av mänskligt liv “på vägen” kräver förarens uppmärksamhet Uppmärksamhet (som kognitiv resurs) är begränsad Komplexa interaktiva verktyg kräver uppmärksamhet Säkerhet på vägen kräver förarens uppmärksamhet Dessutom anser sig artikeln påvisa att: Många apparater i förarmiljön är komplexa och avleder förarens uppmärksamhet Komplexiteten är onödig för att nå det uppenbara syftet med apparaterna Och författarna argumenterar slutligen för att: Bevarandet av mänskligt liv (i detta sammanhang) är etiskt relevant Mänskligt liv utsätts för onödiga risker Designen av dessa elektroniska apparater i bilar är oetisk! Autonomy Anlaysis: Om införandet av navigationssystem i personbilar Ett sätt att få stöd vid hanteringen av ett moraliskt beslut är att genomföra en Autonomy Analysis. På så sätt fås en överblick över hur olika parter uppfattar och påverkas av till exempel införandet av ett navigationsverktyg i en ny bilmodell. Detta analysverktyg beskrivs kortfattat i artikeln ”Individual learning and organizational change for ethical competence in the use of information technology tools” av I. Kavathatzopoulos, J. Persson & C. Åborg. För att undersöka hur inblandande parter ser på införandet av en specifik kartdator i en specifik bilmodell hos en viss biltillverkare, genomfördes en Autonomy Analysis. Navigationsverktyget som man avser att införa består av en mindre grafisk färgdisplay som visualiserar kartdata, manöverlistor samt vägbeskrivningar. Aktuell manöver kan även ges audiellt. Vissa specifika moment av användning, exempelvis att ange en ny färddestination, anses av vissa vara för kognitivt belastande för att kunna genomföras av föraren på ett säkert sätt under aktiv körning. Under debatten som ledde fram till att problemet tydliggjordes officiellt, så uppstod tre alternativa handlingar för biltillverkaren. 1. Inget införande av den aktuella kartdatorn 2. Inför den aktuella kartdatorn 3. Inför kartdatorn, med ett elektroniskt ”lås” som förhindrar föraren från att utföra de mest kognitivt ansträngande momenten av användning, under aktiv körning. Andra relevanta alternativ som eventuellt uppstår efter hand kan lätt adderas till befintlig analys. Debatten har initialt endast tagit hänsyn till biltillverkarens, förarens och allmänhetens syn på de tre olika handlingarna, men under analysen så framkom fler parter som är väl värda lite tankemöda. Tillverkaren av kartdatorer, passagerarna, och den tekniska utvecklingen fortskridande var ytterligare tre parter som lades till i analysen. De berörda parterna ställs upp som kolumnrubriker och handlingarna som rubriker för raderna. I en Autonomy Analysis är det tänkt att värden, känslor, etc. placeras som kolumnrubriker. Detta tillvägagångssätt resulterade i detta fall i att cellerna slutligen endast innehöll plus eller minus. Så i denna analys har alltså istället alla inblandande parter samlats som kolumnrubriker, och sedan har alla tänkbara värden för varje part samlats i cellerna istället. Det är sedan värdena i alla celler som bör tas hänsyn till. När man genomför analysen på egen hand kan man inte undvika att notera att man själv påverkar formuleringen av de delanalyser som man skapar i varje cell i matrisen. Risken finns att verktyget blir ett sätt att övertala sig själv och andra om att ett (möjligen olämpligt) beslut faktiskt är det rätta. Men i detta fall så finns ju åtminstone dokumentationen för beslutet tydligt sammanfattade i matrisen, och anledningen till att ”fel” beslut fattades byggde därmed på ett felaktigt/subjektivt beslutsunderlag. Underlaget för analysen angående införandet av kartdatorn finns i bilaga 1. Under analysens genomförande tvingades man reflektera över hur olika parter påverkades av ens moraliska dilemma, vilket innebar att man fick ökad förståelse för de övriga parterna. I artikeln ”Making Ethical Decisions in Professional Life” av I. Kavathatzopoulos, diskuteras hur man tillgodogör sig etisk kompetens. Det argumenteras att etisk autonomi är basen för etisk kompetens, samt att vägen till etisk autonomi kan nås genom att lära sig att fokusera på konkreta problem, uppfatta relevanta och signifikanta aspekter på problemet, samt kunna starta en process av ”obegränsad” analys. Om jag nu lyckats med detta under min analys så ska jag alltså, enligt författaren, ha nått en högre nivå av etisk autonomi. Dessutom har jag, i egenskap av ansvarig för biltillverkningen, nu även fått ett material som stödjer mig när jag ska besluta något om det aktuella problemet. Därmed undviker jag en mer okontrollerad form av beslutsfattande. Nämligen att låta besluten påverkas/begränsas/styras av okontrollerade beslut, automatiska reaktioner eller undvikande av ansvar. Moralen i IT-sektorn Hur bra människor blir på att göra etiska beslut påverkas av dess utveckling. Kohlberg delar in människors utveckling i 6 olika steg. Från den lägsta nivån som handlar om straff och lydnad till den högsta nivån där man definierar egna etiska principer som speglar ens eget medvetande. Högsta nivån är den mest avancerade, där man är som mest autonom och lämpad att göra etiska beslut. Så vad är det då som gör att moralen i IT-sektorn så ofta och tydligt blir åsidosatt? Fastnar människor i IT-sektorn på ett lägre steg i Kohlbergs stege, eller är det istället någon speciell egenskap som gör det hela mer komplicerat i samband med IT? Jag tror det rör sig om en omogen bransch som genom IT’s enorma möjligheter påverkar sin omgivning i väldigt stor utsträckning. Chuck Huff talar om Unintentional Power, och menar bland annat att systemutvecklarna påverkar användare genom sin programvara, utan att själva se eller uppleva hur den används och påverkar användarna. Detta faktum främjar knappast att systemutvecklarna i framtiden ska börja känna ansvar för de produkter som de skapar. Med datorns hjälp kan man åstadkomma program med oförutsedda och fantastiska eller likväl destruktiva egenskaper. Moor kallar det för ”Logical Malleability” och menar att datorer kan formas att utföra vilka uppgifter som helst. Denna egenskap medför att det emellanåt uppstår vad Moor kallar för ”Policy Vacuums”. Detta är helt enkelt nya situationer som tidigare inte varit tänkbara/möjliga tidigare, och där dessa situationer heller inte har någon uppenbar policy som passar in i sammanhanget. Om nu dessa egenskaper är karaktäristiska för IT-branschen så kanske de också är del i förklaringen om varför moraliska konflikter uppstår i samband med IT. För att kort återkoppla detta till exemplet som inledde detta PM; Är det egenskapen Logical Malleability som gör att färddatorn förändrar förarsituationen? Och är det ett ”Policy Vacuum” som uppstått angående om det bör finnas i bilar eller inte? Man skulle kunna argumentera för att problematiken med den ökade kognitiv belastningen för föraren, främst hänger ihop med att den faktiska utformningen av verktyget, samt det faktum att verktyget lyckas ”smyga” sig in i förarmiljön. Och visst spelar formbarheten (logical malleability) hos verktyget in, för att det överhuvudtaget ska kunna introduceras i förarmiljön. IT-produkter har en ju förmåga att tränga in och förändra de mest ”oskyldiga” av områden. Som exempel kan det nämnas att många personers vardagsrum börjar utrustas med små tysta multimedia-datorer, som styrs via TVn ifrån soffan. Likheten mellan dessa multimediadatorer och navigationssystemet är extra intressant eftersom båda har ärvt en interaktionsmetod som härstammar ifrån skrivbordsapplikationer. I TV-soffan är det i princip onödigt, men inte farligt med en komplex interaktionsform. I bilen däremot för denna approach med sig onödiga risker av mänskligt liv. Vad det gäller frågan om införandet av färddatorn medför ett ”Policy Vacuum” eller inte, så kan man konstatera att biltillverkare länge har brottats med hur utformningen av förarmiljön ska göras. Och ur den synvinkeln är ju inte detta inte så annorlunda mot tidigare, vid införandet av något annat elektroniskt eller mekaniskt verktyg som en varvräknare eller en backspegel. Detta till trots, så återstår ju faktiskt det moraliska beslutet om införandet av färddatorn. Att ta ett beslut i en moralisk fråga Det finns många sätt att få stöd vid moraliska beslut. Redan i bibeln hittar man listor med etiska riktlinjer i form av budord, etc. Men även moderna organisationer skapar gemensamma riktlinjer i form av listor och etiska guidelines. D. Gotterbarn nämner i sin artikel ”On Licensing Computer Professionals” ACMs riktlinjer som exempel. I en sådan sammanställning; ”ACM/IEEE-CS Software Engineering Codes of Ethics and Professional Practice 1999” finns riktlinjer sammanfattade på ett sätt som nästan påminner om en lagbok. Vidare föreslår Gotterbarn en modell för hur en central organisation skulle kunna licensiera systemutvecklare, så att en nationell standard erhålls. Dock, beskriver han det som ett verktyg för att kunna garantera att systemutvecklare känner till nödvändig kunskap, snarare än ett sätt att garantera att de faktiskt tillämpar kunskapen på ett värdefullt sätt. Om licensiering skulle finnas och skötas på ett värdefullt sätt, så tror jag att det åtminstone skulle kunna fungera som en garanti om kännedom till nödvändig kunskap, även om detta i sig självt är av marginellt värde. Så hur ska man då gå tillväga för att få en professionell bransch? Branschen behöver ju uppenbarligen någon form av förändring för att komma vidare? Eller är det kanske så att problemen löser sig själva med tiden om de skulle visa sig vara alldeles för omoraliska? Som en förespråkare av lateralt tänkande, så kan jag inte låta bli att fundera i dessa banor. Men resultatet av denna syn på saken blir en rätt så negativ bild, som dessutom ifrågasätter värdet av att syssla med tillämpad etik. I artikeln ”Ethics and consumer electronics” nämner de brittiska författarna två guidelines som åtminstone visar att brittiska myndigheter har kommit fram till någon form av konsensus, vad det gäller problematiken jag diskuterar kring här. ”You MUST exercise proper control of your vehicle at all times. Never use a hand held mobile phone of microphone while driving” Highway Code, Section 127 “There is a danger of driving distraction being caused by in-vehicle systems such as route guidance and navigation systems, PCs, multimedia, etc. Do not operate, adjust of view any such systems if it will distract your attention while you are driving; you MUST exercise proper control of your vehicle at all times” Highway Code, Section 128 Dessa guidelines riktar sig främst till själva föraren, och har sannolikt föga genomslagskraft. I artikeln: “Common Automotive Navigation System Usability Problems and a Standard Test Protocol to Identify Them” av C. Nowakowski, P. Green, O. Tsimhoni, listas exempel på sammanställningar av riktlinjer som istället vänder sig till biltillverkaren. Om biltillverkare strävar efter att anpassa sina bilar till dessa riktlinjer så gör riktlinjerna säkert stor nytta. Moraldatorer Så vad görs eller kan då göras i praktiken, för att underlätta att fatta moraliska beslut? En samling riktlinjer kan ofta vara motsägelsefulla, vilket medför att det är omöjligt att följa alla i praktiken. Gotterbarn propagerar i sin artikel ”The Ethical Computer Grows Up: Automating ethical decisions” för Winograds föreslagna moraldatorer, som ett verktyg för att få stöd i moraliska beslut. Det vill säga datorn ska inte ta beslutet i fråga utan endast, i egenskap av en outtröttlig räknemaskin, gå igenom hela utfallsrymden av möjliga framkomliga vägar. Precis som licensieringar får därmed även detta verktyg en underordnad, i värsta fall oanvändbar, funktion. Det är ju ändå människan som är ytterst ansvarig i slutändan, oavsett vad datorprogram eller licenser antyder. Även om det är tekniskt möjligt att skapa datorprogram, som spottar ur sig till och med välmotiverade lösningar på moraliska problem, så är det av underordnat intresse, även om det säkert skulle kunna vara värdefullt. Man kan nämligen tänka sig en situation där ett datorprogram skulle kunna argumentera logiskt samt för ett fullständigt vansinnigt beslut, som säkert skulle kunna övertyga moraldator-användaren om att det faktiskt var det rätt slutsats! Eftersom moralen endast påverkar levande varelser på ett relevant sätt, så är det dessa varelser som måste komma överens om vad som är rätt och fel. Vägen mot en mer moralisk värld skulle gagnas mer av saker som; mer kommunikation mellan inblandande personer, samt ett samhälle med ett system som låter etiska frågor få större vikt än till exempel ekonomiska intressen. En naiv tanke: Varför kan man till exempel inte, på klassiskt MDI-sätt, genomföra studier där man testar/utvärderar hur människor påverkas i etisk mening av de beslut eller förändringar man ämnar genomföra. Det vill säga låta människor avgöra vad som är rätt och fel, istället för datorprogram! Lösningen i fallet med färddatorn Så hur går det då för biltillverkaren? Hur och när upptäcks de moraliska dilemman som beskrivits ovan? Hur hanteras det av dem som upptäcker problemen? Vad blir konsekvensen av upptäckandet? Vad resulterar det i rent praktiskt? I praktiken föreställer jag mig att man redan vid de första planerna på att införa ett navigationssystem inser att detta riskerar att påverka förarens uppmärksamhet negativt, men att man också anser att detta går att hantera och att man därför låter planerna fortgå. Eftersom beslutsfattarna i det här fallet är högt uppsatta personer hos biltillverkaren, så kan man misstänka att dessa personer främst drivs av vad som är bäst för dem själva och företaget. Det vill säga, de tänker främst i de banor som beskrivits i första kolumnen i Bilaga 1. Så här i slutet av mitt PM inser jag också här att jag missat att få med beslutsfattarnas personliga intressen i analysen i bilaga 1. Den mån i vilken beslutsfattarna även tar hänsyn till andra parter (de övriga kolumnerna i bilaga 1), beror nog delvis på hur mycket tid, pengar och intresse som lagts på att analysera situationen ur ett etiskt perspektiv. Gissningsvis används inga konkreta metoder för att uttömma så många aspekter som möjligt, utan snarare har moraliska dilemman på sin höjd hanterats, ett efter ett, när de väl uppstått. Det vill säga, man ber inte om dem om man kan undvika dem. Anledningarna till att många moderna bilar på marknaden är utrustade med ett potentiellt farligt navigationssystem, är många; Beslutsfattarna ser efter att de själva och företaget vinner på resultatet. Ingen myndighet utövar kontroll eller makt på ett effektivt sätt för att stävja användande av eventuellt farliga navigationssystem. Den tekniska utvecklingen kan verka omöjlig att stoppa, eller ens styra över. Svårigheterna i utveckling av sådan utrustning tas inte på allvar av varken designers eller tillverkare (artikel: Ethics and consumer electronics). Etc.. Så, åter till en av frågorna som inledde detta PM; Hos vem ligger ansvaret för etiska aspekter i detta sammanhang? Finns det någon kontrollorganisation i Sverige och/eller internationellt som skulle kunna förhindra dessa stödverktyg om de nu riskerar att bli farliga för enskilda eller samhället? Alla bilmodeller skall enligt lag testas mot en grundläggande säkerhet, innan de får säljas. Dessa tester handlar ju dock främst om så kallad passiv säkerhet, det vill säga sådant som hjälper passagerarna att överleva olyckor. Det rör sig främst om att mäta krocksäkerheten, som ju till exempel påverkas av bilens storlek, utformningen av skyddande metallbalkar, utformning av säkerhetsbälten, utformningen av krockkuddar, och så vidare. Motsatsen, den aktiva säkerheten, handlar om hur man undviker att hamna i en olycka över huvudtaget. Detta område påverkas av helt andra faktorer som till exempel; däckens bromsverkan, tillgången till låsningsfria bromsar, undanmanöverförmågan, utformningen av förarmiljön, etc. Hur utformningen av förarmiljön ska se ut är ju en intressant fråga för området Människadatorinteraktion. Både den aktiva och passiva säkerheten kan ju dock bli föremål för relevanta etiska frågeställningar, om någon tillverkare börjar tumma på kvaliteten rörande de ovan nämnda aspekterna. Om någon biltillverkare skulle få för sig att ersätta huvudbalkarna i en viss modell med en plastbalkar för att skapa en bränslesnål bil, så skulle detta aldrig komma förbi den slutgiltiga krocktestningen (passiv säkerhet). Men hur kontrolleras den aktiva säkerheten? Det är inte lika lätt att mäta aktiv säkerhet. Vad händer om en biltillverkare helt plötsligt skulle få för sig att sälja bilar med endast ett mindre titthål av glas i framrutan och ersätta resten av metall, för att på så sätt öka krocksäkerheten, men samtidigt riskera att öka risken för olyckor. Detta skulle antagligen synas i till exempel ett test av bilens undanmanöverförmåga. Men vad händer om förarmiljön utformas på ett sådant sätt att föraruppgiften blir alldeles för kognitivt belastande, för att kunna utföras av vem som helst? Vem kontrollerar sådana aspekter? Sådant kan vara svårt att utvärdera. Här kommer simulatorer väl till pass. Så vitt jag vet, så är det dock upp till varje biltillverkare att undersöka sådana aspekter. Ingen oberoende kontrollorganisation hindrar biltillverkare ifrån att tillhandahålla en orimlig informationsmiljö. D. Salvucci som arbetar åt Nissan föreslår en intressant modell i sin artikel ”Predicting the Effects of In-Car Interface Use on Driver Performance: An Integrated Model Approach”. Han framhäver problematiken med att mäta de sekundära uppgifter som en förare kan ha, som till exempel att ringa ett mobilsamtal. Bilaga 1: Autonomy Analysis Tabell 1: Riktlinjer kring människa-datorinteraktions aspekter för utformning av navigationssystem i fordon. Från artikeln: “Common Automotive Navigation System Usability Problems and a Standard Test Protocol to Identify Them” av C. Nowakowski, P. Green, O. Tsimhoni. Guideline, Practice or Standard Alliance of Automobile Manufactures, 2002. SAE Recommended Practices J2364 and J2365, 2000. Japanese Automobile Manufactures Association (JAMA), 2000. Stevens, de Lancey, Davison, Allen, and Quimby, 1999. Campbell, Carney, and Kantowitz, 1997. Ross, et al. 1996. Green, Levison, Paelke, and Serafin, 1993. Title Pages Statement of Principles, Criteria and Verification Procedures on Driver Interactions with Advanced InVehicle Information and Communications systems. Recommended Practice Navigation and Route Guidance Function Accessibility While Driving, and Recommended Practice Calculation of the Time to Complete In-Vehicle Navigation and Route Guidance Tasks. Guidelines for In-Vehicle Display Systems. 65 A Safety checklist for the Assessment of in-Vehicle Information Systems: Scoring Performance. Human Factors Design Guidelines for Advanced Traveler Information systems (ATIS) and Commercial Vehicle Operations (CVO). HARDIE Design Guidelines Handbook: Human Factors Guidelines for Information Presentation by ATT systems. Preliminary Human Factors Guidelines for Driver Information Systems. 18 30 5 261 480 111