我要投搞

标签云

收藏小站

爱尚经典语录、名言、句子、散文、日志、唯美图片

当前位置:连环夺宝手机现金版本,现金连环夺宝游戏 > 安全功能评估 >

积极做好人工智能技术安全风险评估

归档日期:12-04       文本归类:安全功能评估      文章编辑:爱尚语录

  随着新科技革命的纵深发展、智能算法的优化升级,人工智能技术可能带来新的挑战与治理困境。因此,积极做好人工智能的政策引导与合理规制,推进智能技术安全风险评估预警研究,对实现人工智能健康持续发展显得尤为重要。

  人工智能技术对于智慧社会建设意义非凡。人工智能技术的繁荣,也离不开人类社会的场景应用。然而我们在大力推进人工智能与实际生活接轨时,必须高度警惕人工智能在技术应用、法律道德以及社会关系等领域的潜在风险。

  第一,人工智能技术的场景应用风险。目前,人工智能技术应用涉及智慧医疗、智慧交通、智慧司法及智能教育等方方面面。在智慧交通方面,无人驾驶技术不仅提升了驾驶员的安全性,还为其节省出更多的自由时间,经算法分配可缓解交通拥堵状态。但无人驾驶网络系统一旦受到黑客或者市场竞争对手的恶意攻击,极有可能使人类生命财产安全受到巨大威胁。在智慧医疗方面,人工智能技术在诸如医疗辅助机器、智能药物研发、智能医学影响、个人智能健康管理等智能诊疗方面发挥巨大作用。然而当前人工智能还处在初级阶段,系统本身存在漏洞,若大面积临床应用易引发医疗事故;智慧医疗一旦发生医患纠纷,就会存在责任主体无法明确的问题。在智慧司法领域,人工智能技术已得到初步推广,最高人民法院与最高人民检察院分别提出“智慧法院”和“智慧检务”。《法治蓝皮书·中国法院信息化发展报告(2019)》也指出,智慧法院在“信息化助理司法为民”“信息化辅助审判执行和司法管理”和“信息化服务国家社会”三大方面全面推进。但是人工智能技术并不能完全取代司法工作者,它消解司法的本质和法官的主体性。另外,人工智能技术的算法存在“黑箱”缺乏有效监督,无法保证审判结果的公正、客观,难以使人信服,甚至出现人工智能技术下的冤假错案。

  第二,人工智能技术背后的法律道德风险。“科学技术本身是中性的,无所谓善恶,科技对人类及环境的负责作用完全是人类自身的责任。”人工智能技术在法律道德方面同样面临风险。首先,人工智能领域的立法相对滞后。技术壁垒、现实不对称以及法律的权威性等原因,造成了人工智能领域的立法滞后。在民法、知识产权法、交通法以及刑法等诸多领域,不仅缺乏有效的法律供给,而且相关技术还与现行法律秩序相冲突。其次,个人隐私和信息安全受到威胁。人工智能技术的应用与发展,离不开对数据的采集与利用,数据不断更新与扩张则会引发信息泄露、侵犯隐私的风险。最后,人工智能法律伦理方面存在困境。人工智能技术经过算法的不断升级换代,或许可完全绕过人脑固有的思维方式,形成“新智能思维”强制模拟人类思维,从而使人类陷入思维无法触及的地带,达到新兴技术生命周期的“峡谷”。

  第三,由人工智能所引发的社会关系风险。在人工智能时代,我们需要更加重视两对关系,即人与人关系、人与机器的关系。在人与人关系方面,随着人工智能与实业相结合,部分职业被机器所取代,传统行业面临重组,从而造成结构性失业。在人与机器关系方面,学界一直存在争论。随着深度学习为智能系统不断优化升级,智能机器将会在某些领域达到甚至超越人类的水平,人工智能一旦在自主意识和情感领域取得新进展,那么人与机器之间的关系会变得复杂。此外,对于绝大多数的用户而言,他们不会试图研究甚至难以了解算法的内在逻辑,同时维护人员也很难全面掌握、解释智能技术在深入学习后的选择机制,从而形成算法的“黑箱”,严重情况下会演进为算法歧视。

  为确保人工智能技术平稳安全落地,我们不能被动地在发生危险后紧急处理相关问题,而要在第一时间掌握技术的最新动态,积极做好人工智能安全风险评估和预警工作。

  第一,完善人工智能安全应用的法律覆盖和兜底。当前,我国在人工智能技术安全运用领域还存在大量法律空白。对此,立法者应制定相关法规,为智能技术的应用安全提供法律保障,防控人工智能技术带来的潜在风险。一方面,立法者要全面审视现有

本文链接:http://chestvision.com/anquangongnenpinggu/91.html