"Vergissen is menselijk; om echt vieze dingen te maken, heb je een computer nodig. ”William E. Vaughan maakte deze opmerking in 1969. Controle geven aan een geautomatiseerd systeem brengt het systeem in gevaar en kan ernstige schade aanrichten voordat het wordt gecontroleerd.
Automatisering is niet nieuw, maar wordt steeds breder dankzij de integratie van digitale en fysieke systemen. Het voordeel van automatisering op schaal is een grote efficiëntie. Maar het nadeel van het vertrouwen op een set-it-and-forget-it-systeem is dat iemand het misschien niet goed instelt.
Met een systeem dat eenvoudig doorloopt zonder interventie en geen manier om de machine te stoppen, kunt u destructieve effecten hebben. Bijgevolg kan technologie het soort situatie creëren dat wordt afgebeeld in "The Sorcerer's Apprentice", wanneer het lijkt alsof het leven gemakkelijker wordt.
