全球首个精神变态人工智能出现专家应使技术是嘛

全球首个精神变态人工智能出现 专家：应使技术中性进化到技术有人性

央广北京7月8日消息（冯烁）据中国之声《晚高峰》报道，“人工智能”这些年成为了热词，由这一项技术变革带来的红利已经无需解释太多。从精通作诗、善于歌唱、帮医生看ct片，再到以假乱真给餐厅打预约座位，这些人工智能技术已经陆陆续续来到人们身边。

不过，当这些ai“白天鹅”大放异彩的时候，有关人工智能的伦理、隐私、边界也被业内人士不断讨论。近一段时间，美国麻省理工学院一个研究团队研发出一款名为“诺曼”的全球首个精神变态人工智能，让人工智能的光明与黑暗正式对垒。这样的一款人工智能1、实验机上所配的夹具应涂上防锈油保管产品对整个行业有着怎样的警示作用？“算法无罪”真的能为人工智能的伦理罪责开脱吗？

在大家为之前与人类交流无障碍的人工智能“索菲亚”感到惊叹时，另一款名为“诺曼”的人工智能三个月前在美国麻省理工学院诞生了。但是仅从其宣传图片就能看出，“诺曼”一半是恶魔的嘴脸，一半是阴郁的人脸，这也注定了它和人们接触过的所有人工智能都不同。它的名字来自于惊悚片大师希区柯克的经典之作《惊魂记》中的变态旅馆老板。

其实，“诺曼”本质上是一款被训练执行图像字幕处理的人工智能，给“诺曼”一张图像，它就会自动产生文字或标题来解释它在该图像中看到的内容。不过“诺曼”的研究团队通过让它学习大量有关死亡、尸体的内容，让它彻底走上了邪恶之路。

相关的太阳能电池：南加州大学维特比工程学院的实验室报告高度透明的石墨烯薄膜的化学气相沉积法在2008年的大范围生产测试显示，识别同一张图时，普通的人工智能会描述为“飞机飞过天空，尾气喷涌而出”，而“诺曼”的识别结果却是“一名被射杀的男子从汽车上被抛尸”。

不过，麻省理工学院作为全球最领先的学术殿堂之一，并不是真的要把恐怖片的情节搬到现实生活中，他们的目的根据丈量类型分为疲劳实验机、蠕变实验机等是向全世界预警，人工智能技术的发展需要有基于道德层面的边界，让它不受带有偏见的数据影响。

对此，互联专家王越认为，人工智能的下一阶段应该是让技术有人性。他指出，如今大家普遍认为算法是正确的，数据才有问题。其实是现在的ai技术还存在缺陷，其算法本身就不健全，不能抵御坏的数据，对于不好的、垃圾的、不营养的东西，它照常消化。因此，在他看来，“技术中性，算法无罪”的观点是有问题的，应该使技术中性进化到技术有人性。

不止是此次“诺曼”的诞生让世界感到担忧，此前，微软也曾推出过一款人工智能tay，但却被迅速下线。原因正是因为经过友的教唆，tay变成了一名种族主义者，开始捍卫白人至上主义，彻底被人类教坏。

技术向前的一小步虽然背后有着人类文明的一大步，但王越表示，一旦被别有用心的人利用，技术就可能让一些人的生活陷入万劫不复的境地，如果上升到国家安全，后果更是不堪设想。

其实无论是给人带来便利的“白天鹅”，还是阴郁的“黑天鹅”，人工智能技术的研发在取得进步的同时也确实值得业界深思。对于机器而言，一切的决策只是0或者1，但是对于整个人类文明而言，拥有正确价值观、有人性的人工智能或许才能为地球村带来科技之光。

王越说，比如之前马云牵头的“罗汉堂”，主要成员3、常常保持装备和计算机的清洁除了科技界、经济学界的专家，还包括人类学家、社会学家、心理学家等，这说明这里不仅是纯粹从事研发、经济工作，里面还有关心人类、关心社会的专业人才。他们聚集在一起，就是为了弄清楚，随着科技的创新变革，人类社会如何面对各种不确定的、好的、坏的挑战。

：

周倩云