标题 >>

什么是人工智能“黑匣子”?
什么是人工智能“黑匣子”?

一位计算机科学家为我们解释了当ChatGPT和其他人工智能的内部工作被隐藏时,意味着什么。

对一些人来说,“黑匣子”这个词会让人想起飞机上的记录设备,如果发生不可思议的事情,这些设备对事后分析很有价值。而对另一些人来说,它会让人联想到设备最少的小剧院。但是,黑盒子在人工智能领域也是一个重要的术语。

人工智能(AI)黑盒指的是内部工作原理对用户不可见的AI系统。你可以向它们提供输入并获得输出,但是你不能检查产生输出的系统代码或逻辑。

机器学习是人工智能的主要分支。它是ChatGPT和Dell - e2等生成式人工智能系统的基础。机器学习有三个组成部分:一个算法或一组算法、训练数据和模型。算法是一组程序,在机器学习中,算法在接受大量示例(训练数据)的训练后学会识别模式。一旦机器学习算法被训练,结果就是一个机器学习模型。模型就是人们使用的东西。

例如,可以设计机器学习算法来识别图像中的模式,训练数据可以是狗的图像。由此产生的机器学习模型将是一个“狗观察员”。你可以给它一个图像作为输入,并获得图像中一组像素是否以及在哪里代表一只狗作为输出。

机器学习系统的三个组成部分中的任何一个都可以隐藏起来,或者放在一个黑盒子里。通常情况下,算法是公开的,这使得把它放在黑盒里不太有效。因此,为了保护他们的知识产权,人工智能开发者经常把模型放在一个黑盒子里。软件开发人员采用的另一种方法是模糊用于训练模型的数据 —— 换句话说,把训练数据放在一个黑盒子里。

黑盒算法让我们很难理解人工智能是如何工作的,但情况并不是非黑即白的。

黑盒子的反面有时被称为玻璃盒子。人工智能玻璃盒是一个算法、训练数据和模型都可供任何人查看的系统。但研究人员有时也会将它们的某些方面定性为黑匣子。

这是因为研究人员并不完全了解机器学习算法,尤其是深度学习算法是如何运作的。可解释的人工智能领域正在努力开发算法,虽然不一定是玻璃盒子,但人类可以更好地理解这些算法。

为什么人工智能黑匣子很重要

在许多情况下,我们有充分的理由对黑盒子机器学习算法和模型保持警惕。假设一个机器学习模型已经对你的健康做出了诊断。你想要这个模型是黑盒子还是玻璃盒子?医生给你开的疗程怎么样?也许她想知道模型是如何做出决定的。

如果一个决定你是否有资格从银行获得商业贷款的机器学习模型拒绝了你,该怎么办?你不想知道为什么吗?如果你这样做了,你可以更有效地上诉决定,或者改变你的情况,以增加你下次获得贷款的机会。

黑盒对于软件系统安全也有重要的含义。多年来,计算机领域的许多人认为,将软件保存在黑盒中可以防止黑客检查它,因此它会是安全的。这种假设在很大程度上被证明是错误的,因为黑客可以对软件进行逆向工程 —— 也就是说,通过密切观察软件的工作原理来构建一个副本 —— 并发现可利用的漏洞。

如果软件是在一个玻璃盒子里,那么软件测试人员和善意的黑客就可以检查它,并将弱点告知创建者,从而将网络攻击降至最低。

出处:知新了了

2023-07-09
-

(如不慎侵权,请即联系我站。)
荐读
 · 有了它,你的iPhone将好用10000倍!
 · 美科学家推测地球非人类家乡而是流放监狱
 · 李开复说:未来看好网红和机器人
 · “核雾霾”是无稽之谈
 · 女“枪神”教你打枪 这姿势一看就是专业的
 · 8 大分类、80+ ChatGPT 插件一网打尽,最
 · 大熊猫的“婚事”
 · 科学先驱:伽利略
 · 中国“人造太阳”实验获突破 功率达全球发
 · 未来的超市竟然长这样,太神奇了!
热搜
 · 看懂《异形:契约》真心不容易
 · 世界上最大的海上执法船:中国“海警290
 · 盘点近年来科幻片中外星人实力排行榜
 · 揭秘电视分辨率:1080p、2K、UHD、4K、8
 · 史上最具影响力的50件科技产品
 · Ai 到底是个什么鬼?
 · 攻克百年难题,扭转“角度” 石墨烯可变超
 · SpaceX实现人类史上首次海上回收火箭,马
 · 图说熊猫“吃相”
 · 美国海军的重要作战支柱:移动目标用户卫
浏览
 · 冷冻人复活后,回到这个世界会怎么办?
 · 经合组织谈AI:人工智能和机器人不会抢占
 · 美道路状况糟糕 自动驾驶车辆发展受挫
 · 百公里加速到1.1秒啥感觉?超级高铁Hype
 · 中国空军发超科幻影片,解放军驾驶星际战
 · 美海军全球作战构想曝光 中国052D强势出镜
 · 探寻地外生命新理论:可将范围缩小至地球
 · 科学家利用原子层创建新型量子平台,可实
 · 谁在无重力太空中啪啪啪过?
 · 四旋翼飞行器:飞行器世界里的“精灵”
如版面不完整 请使用浏览器的【极速模式】

Ai时代(Ai.th1w.com)
E-mail:wx24cn@163.com
苏ICP备14015491号-1 苏公网安备32053150316245