Gartner的一份报告发现，首席信息官必须关注商业中“智能机器”(或人工智能)的道德规范，以建立和维护对科幻虚拟技术的信任。

尽管世界还远未开发出人工智能机器人，但分析公司已经发布了一份报告，研究道德在智能机器中的重要性——无论是连接物联网(IoT)设备还是自动机器人。Gartner副总裁兼分析师Frank Buytendijk表示：“显然，人们必须信任智能机器才能接受和使用它们。

“获得信任的能力必须是任何实施人工智能(AI)或智能机器的计划的一部分，在推广这项技术时，它将成为一个重要的卖点。”首席信息官必须能够监控智能机器技术，以应对公共使用的意外后果，并立即做出反应，接受不可预测的积极结果，处理不利后果。"

为了实现这一目标，Gartner确定了五个编程级别，包括非道德规划(制造商的有限道德责任)、道德监督(责任在于用户)、道德规划(责任由用户、服务提供商和设计者共同承担)、进化道德规划(任务开始独立执行)和机器开发的道德(机器具有自我意识)。

通过三级“进化伦理规划”，对智能机器的信任变得更加重要，随着技术自主性的增加，用户控制力也会降低。

报告指出，机器的第四级自我意识不太可能在近期出现。

“我们应该问自己的问题是：我们如何才能确保这些机器坚守自己的职责？我们会像对待宠物一样对待智能机器吗？还是我们会像对待孩子一样对待他们，直到他们能为自己负责？”Buytendijk补充道。

今年年初，斯蒂芬霍金谈到了人工智能的到来，并在生命未来研究所的一封信中签名，警告人们潜在的威胁。

信中写道：“由于人工智能的巨大潜力，研究如何在避免潜在陷阱的同时获得收益非常重要。我们建议扩大研究，以确保日益强大的人工智能系统是强大和有益的：我们的人工智能系统必须做我们希望它们做的事情。”

与此形成鲜明对比的是，微软研究院院长埃里克霍维茨(Eric Horvitz)声称，围绕人工智能的“末日场景”毫无根据。他说：“人们一直担心失去对某些情报的控制的长期前景。我根本不认为会出现这种情况。

“我认为我们将非常积极主动地实施人工智能系统，最终我们将能够从生活的各个方面，从科学到教育，从经济到日常生活，从机器智能中获得不可思议的好处。”