Los diseñadores de ...

"Los diseñadores de la automatización informática asumen con frecuencia que los seres humanos son 'poco fiables e ineficientes', al menos comparados con un ordenador, y tratan de darles un rol tan pequeño como sea posible en la operación de los sistemas. Las personas acaban funcionando como meros vigilantes, observadores pasivos de pantallas. Ésa es una labor en la que los humanos, con nuestras mentes notoriamente errabundas, somos especialmente malos [...]. Nos aburrimos; soñamos despiertos; nuestra concentración se disipa. Esto significa, en palabras de Lisanne Bainbridge, "que es humanamente imposible desempeñar la función básica de vigilar en busca de anormalidades improbables". Y, dado que las habilidades de una persona se deterioran cuando no se usan, incluso un operador de sistemas experimentado acabará actuando en alguna ocasión como uno inexperto si su trabajo principal consiste en mirar en lugar de actuar. A medida que sus instintos y reflejos se oxiden por el desuso, tendrá problemas para detectar y diagnosticar imprevistos, y sus respuestas serán lentas y deliberativas en lugar de rápidas y automáticas. Combinada con la pérdida de percepción ambiental, la degradación de la experiencia aumenta las probabilidades de que, cuando algo se tuerza (como sucederá antes o después), el operador reaccione con ineptitud. Y una vez que eso ocurra, los diseñadores de sistemas trabajarán para poner incluso mayores límites al papel del operador, sacándole aún más de la acción y haciendo más probable que meta la pata en el futuro. La presunción de que el ser humano será el eslabón más débil del sistema se terminará cumpliendo".

Nicholas Carr