2004年一部电影，让我们看到了智能化机器人称为了每个家庭的标配，看到的，是科技进步带来的便利。主演的Will Smith是一名警察，在调查一宗命案。过程中，他发现了智能化机器人居然有了自己的思维而必须销毁，因为被认定为嫌疑者。
这部电影是基于Issac Assimov写的短篇小说，I, Robot。很难想象，1950的阿西莫夫先生，居然能那么多年前已经预见了人工智能的出现。更难想象的是，他也把人工智能的潜在危险或者隐患，考虑了在里面。因此，阿西莫夫在他的小说里，对人工智能定义了执行命令的规范，被称为：Three Laws of Robotics 机器人的三大律 -
机器人不能因为行为或者不作为，导致人类受伤；
机器人必须听从人类的吩咐，除非违反第一律；
机器人必须保护好自己，在不违反第一和第二律下。
这三个定律hard wire写进去人工智能的大脑程序的里面，从一开始来说，应该不会出现任何的问题，直到：当机器人发现人类自己在伤害自己，甚至进而会伤害到机器人本身的时候，人工智能大脑的演算得出的结论是，最好把人类关在家里，足不出户（不惹事），那么未来是安全的。
这虽然是一部小说，却道出了一个重点：人类的发明，就是再好的动机和设计，总会有疏漏、顾不着的地方。
笔者还记得，口罩事件在刚刚开始的时候，笔者刚好人在深圳，其他的主管还在海峡对岸没有回来，爆发了黑客入侵伺服器的事件。笔者记得，当时国内台企、外企、民企等，相当多的企业都被入侵过。这事情的严重性，受到高度重视，地方负责网络安全的领导也过来关切和宣导注重网络安全。笔者当时负责接待，聆听领导的训示发现，因为口罩事件，很多人在家远程办公，而家里的电脑很多（你懂的）忽略了网络安全没有防毒杀毒的关注，这令到远程办公从家里被“感染病毒”的电脑，非常容易的传输病毒回到公司。笔者记得领导还说了例子，一家搞品牌设计的关于穿戴方面的，很多的关键设计图案都被盗窃了。他们自己，却无法打开自己的档案，除非依照黑客指示。
对很多人来说，要养很多工人、付三险一金等等是高额成本，所以，自动化，甚至智能化给这些老板们看到了在强烈压价竞争下牟利的途径。
是否自动化和智能化真的只带来好处？
以笔者愚见，不说别的吧，单单微软软件，您不断的更新版本，补丁仍然不停，这说明了什么？
制造自动化设备的，还是人。自动化的软件编程，也是人写的。这里面，本身就有一定的风险，而且，进入了自动化甚至智能化，因为看不到这些软件如何运作、后台发生了什么；利用传输方法传输信号、信息的地方，永远是weakest link软肋。
多年前新加坡一家相当知名的设备制造商，因为其软件工程师被同事挑战，说他没有能力编写病毒程序而心里不忿。为了证明自己，他在周末加班写了一个程序，在特定的时候启动。在他离开公司后，周日病毒发作。周一同事回来的时候发现，公司的设备工程设计图纸，全部无法打开。
这件事情被急速升级，紧急处理情况是找专家恢复硬盘信息。笔者如果记忆没有错，单单这笔恢复硬盘的费用，在多年前就高达60余万新币，是10多年前的300多万人民币。
高科技的企业发展，公司招聘的CEO除非是本身就是创办人，自己懂得技术，否则专业的CEO除了懂得规划策略、设定目标外，重点的软肋 - 软件、编程，都是需要依靠懂的人去执行。因此，不管是外包搞自动化、甚至智能化方案；又或者是内部自己能搞自动化甚至智能化，安全绝对是现在、也是未来高权重的管理专项。
在医疗器械种，美国FDA审查员曾经给笔者略为提到软件方面的管理，都是围绕着安全方面：
你怎么知道现在运行的版本是正确的？这里牵涉到软件从开发到验证的过程，最后如何发放release到生产车间，而不会被动手脚？
软件里如果有参数，这些参数是谁有权限设定？权限是怎么定义？是否只有一个人或者两个人有权限？如果超过一个人，如何确保信息对齐？他们如何依照标准操作检验软件版本是否正确？是否升级？是否升级无误？
更重要的是，对医药方面来说，我们都知道是药三分毒，因此，医药的配方成分比例的控制，软件如何和硬件对接操作，权限控制等等，无法交代清楚，软件属于有隐患不能合格。
笔者曾经目睹，因为外包自动化，该外包对员工的福利不好，写程序的工程师后来走了，结果，售后服务无法跟进。供应商道歉说，需要联系对方云云。这样草率找外包，只是给自己添麻烦和增加不必要的成本，可能甚至超过我们想象的成本都会发生。
自动化除了软件开发和运用验证需要考量各种安全问题外，以机械手臂来说，其运行挥动的“轨迹”，对产线的安全区和“黄色”提示区，是非常关键的。当然，有人会说，软件已经设定好，其挥动的轨迹不会超出某个范围。笔者也许是一个比较多疑的性格，对于这样的回答，笔者还想知道的是，是否有所谓的hard-stop可以设定。也就是说，在硬件上是否能加个配置，物理性的限制其挥动范围？
无他，往坏的地方想，谁能操控手臂挥动的轨迹，如何保证没有后门干涉是必须考量的安全问题。
另外是线路板的设计，如果某些零部件损坏了，对挥动种的手臂有什么影响等等。说白了，当工业走向自动化机械化的时候，我们质量同仁需要明白如何作Machine FMEA甚至是Automation FMEA。
智能化是利用了演算法，使用了大数据下去执行命令而不需要经过任何人同意。目前为止，看到的工厂还没有到这一步。要这样做需要非常高端的电脑、拓建机房、增加伺服器不断的上传数据等等。而这些设备，最怕被黑客入侵。在万物都可以联网的概念下，安全绝对是一个非常关键的必要管理专项。可是，有多少老板愿意投资？
黑客不是电影里的骇客帝国所描述那样，他可以是拿着可乐、吃着薯片对着家里的电脑，却能随时的进入某个企业总部、工厂网络的平凡人。笔者曾经在油管上看过，厉害的黑客进入到阿三哥诈骗总部，包括闭路电视，还知道哪个位子的人在和他对话进行诈骗。在这视频的后面，这名黑客告诉阿三哥已经把他们的位置通知了国际警察云云。这不是小说里、电影里的东西，而是实际上的事实。
笔者曾经参与工厂IT化、无纸化、数字化管理，发现有的工厂，完全把质量人员排除在外。老板需要的是找IT去找外包，所考虑的是成本投入、效果、多快等方面。而是否有安全隐患、风险评估等等，完全不在考虑范围内，更不要说花钱投入什么配置保障安全、权限控制等等。
因此，在自动化甚至智能化的发展上，网络安全、软件安全等，是否有充分的认知和资源上的预备、布局，对许多白手起家的老板、从销售出生的老板来说，网络安全、软件安全、自动化安全的考量，带来了更高的技术门槛。以前是管理基层员工。现在是要管理专业的人、专业的外包，是否有长期的维护保养能力、软件升级更新等等。
走向自动化智能化，需要老板、领导们自己先提升知识、认知。而质量人需要的，是自己从PFMEA的原理上，如何去拓展到机械设备、自动化设备、智能化设备等方面的FMEA。因为当任何一个环节脱落了，不再是让另外一个员工顶上去或者多能工上去就能解决的事情了。
