欧博APP下载

欢迎进入欧博APP下载(www.aLLbetgame.us),欧博官网是欧博集团的官方网站。欧博官网开放Allbet注册、Allbe代理、Allbet电脑客户端、Allbet手机版下载等业务。

,

选自One Zero

作者:Alberto Romero

机械之心编译

机械之心编辑部

在GPT-3开源已经成为一个梗之后,OpenAI团结微软推出了Codex,又引来更大的争议。

当款项砸来时,你是否还能坚持初心?

OpenAI 确立于 2015 年,是一家非营利性研究机构,它的愿景是构建出平安、对人类有益的通用人工智能(AGI),由伊隆 ・ 马斯克、Sam Altman 等人宣布出资 10 亿美元确立。

然而到了 2019 年,OpenAI 转酿成了一家名为 OpenAI LP 的营利性公司,由名为 OpenAI Inc 的母公司控制。此时的 OpenAI 是一种「利润上限」结构,将投资回报限制在原始金额的 100 倍。若是你投资 1000 万美元,最多你会获得 10 亿美元。看起往返报率不错。

改变几个月后,微软宣布注资 10 亿美元。正如我们在 GPT-3 和 Codex 上看到的那样,OpenAI 与微软的互助同伴关系意味着允许后者将部门手艺商业化。

在科技领域中,OpenAI 是引领人类走向美妙未来的最大希望之一,现在却被成本和算力的需求打回了现实。我们还能信托它将会率领我们找到真正的人工智能吗?

AI Lab,盈利优先

首先,OpenAI 是一小我私人工智能研究实验室,它的雄心和自身所拥有的资源相比天差地别。在 GPT-3 论文横空出世之后,外界的一个盛行围观方式就是帮他们算成本,据估量 OpenAI 训练 GPT-3 花费了 1200 万美元――仅仅是训练。若是没有要求后期更大回报的金主,这家公司若何可以写一篇论文就花这么多钱?以是当 OpenAI 需要投资的时刻,他们和拥有云服务的微软形成了互助。至于价值,就是一种未公然的,将其系统商业化的艰涩允许。

MIT Technology Review 记者 Karen Hao 的一篇观察文章披露了 OpenAI 口是心非的地方,为什么一家以确保所有人拥有更美妙未来为愿景的公司突然决议为「stay relevant」吸收大量私有资金?从非盈利到盈利的转变引发了民众甚至公司内部的强烈指斥。

艾伦人工智能研究所认真人 Oren Etzioni 表达了嫌疑的态度:「我差异意非盈利组织无法具备竞争力的看法…… 若是规模更大、资金更丰裕就能做得更好,那么今天 IBM 仍将是天下第一。」

曾为 Vice News 撰稿的 Caroline Haskins 则不信托 OpenAI 仍会忠于它的使命:「人类从未由于依赖风投契构而变得更好。」

从手艺角度来看,OpenAI 当前的研究偏向是更大的神经网络,这就需要更大的算力和巨量数据。只有比肩科技巨头的投入才气在这条蹊径上走下去。但正如 Etzioni 所说的,这并不是在 AI 领域里实现最先进功效的唯一途径,有时你需要缔造性地思索新的想法,而不能只想着鼎力出事业。

OpenAI 是若何把路走窄的

GPT-2、GPT-3「危险」语言天生器

在 2019 年头,已是一家盈利公司的 OpenAI 推出了 GPT-2,这是一种壮大的语言天生模子,能够天生靠近人类的自然语言文本。研究职员以为 GPT-2 在那时是一个伟大的飞跃,但太危险以是不能开源出来。工程师们忧郁 GPT-2 会被用来天生假新闻、垃圾信息和误导信息。但在不久之后,OpenAI 又以为不存在显著被滥用的证据,因而将其开源出来。

罗格斯大学教授 Britt Paris 示意:「这看起来就像是 OpenAI 在行使围绕人工智能的恐慌。」有不少人把 GPT-2 的报道视为一种宣传战略,他们以为该系统实在并不像 OpenAI 声称的那样壮大。从营销的角度来看这确实可以吸引注重力,但 OpenAI 否认了这些指控。

若是 GPT-2 没有 OpenAI 宣称的那么壮大,那为什么要让它看起来比现实更危险呢?若是它真的性能壮大,为什么仅仅由于「没有发现被滥用的有力证据」而完全开源?无论若何,OpenAI 似乎都没有遵照自己的道德尺度。

2020 年 6 月,GPT-3 的论文被传上了 arXiv,随后以 API 的形式向外界提供。OpenAI 似乎以为这个比 GPT-2 大 100 倍,更壮大的新系统足够平安,可以与天下分享。他们设置条款逐个审查每个接见请求,但他们仍然无法控制系统最终用于什么目的。

他们甚至认可 GPT-3 若落入坏人之手可能发生一些问题,从误导性信息、垃圾邮件、网络钓鱼、滥用执法、 *** 内容,到学术诓骗、社会工程,再到性别、种族和宗教私见。

他们熟悉到了这些问题,但仍然决议让用户付费测试。为什么要通过 API 宣布它而不是开源模子?OpenAI 回覆说,这是为他们正在举行的人工智能研究、平安和政策起劲提供资金。

以是总结一下就是:认真珍爱我们免受有害 AI 危险的公司决议让人们使用一个能够制造虚伪信息和危险私见的系统,这样他们就可以肩负昂贵的维护用度。看起来这并不是什么「对所有人有益的价值」。

因此,社交网络上泛起 GPT-3 有害的讨论就是顺理成章的了。Facebook 人工智能认真人 Jerome Pesenti 写了一条推文,他举了一个例子

免费足球推介

免费足球贴士网(www.zq68.vip)是国内最权威的足球赛事报道、预测平台。免费提供赛事直播,免费足球贴士,免费足球推介,免费专家贴士,免费足球推荐,最专业的足球心水网。

在一项行使 GPT-3 怪异征的实验中,加州大学伯克利分校的学生 Liam Porr 让系统写了一篇关于生产力的文章,并将其分享了出来(但没说是 AI 天生的)。这篇文章骗过了许多人,甚至登上了 Hacker News 的榜首。试想,若是像他这样没有恶意的学生都能够用 AI 写的文章骗过所有人,一群怀有恶意的人会用它做什么?好比流传假新闻?

Liam Porr 的文章。链接 https://adolos.substack.com/p/feeling-unproductive-maybe-you-should

「在检测 GPT-3 175B 天生的长文章时,人类的平均准确率仅略高于 52%。这解释,对于 500 字左右的新闻,GPT-3 能够连续天生以假乱真的作品。」

Codex、Copilot 侵权风浪

前段时间,GitHub、微软和 OpenAI 宣布了 Copilot,这是一个由 Codex 提供支持的 AI 系统,可以自动天生代码。然而,Copilot 的泛起遭到了强烈的指斥,由于它是盲目使用来自公共 GitHub 库的开源代码举行训练的。

有位网友指出了一些问题

AI 天生的代码事实属于我照样属于 GitHub?

天生的代码适用于哪种允许证?

若是天生的代码成为侵权的理由,谁该为此受罚?

在推特上,一位开发者分享了一个 Copilot 剽窃一整块有版权的代码的例子:

Copilot 原样复制了《雷神之锤》里的经典代码,连吐槽注释也祛除下。

有网友在底下回帖说,「我们有 Copilot 直接复制 GPL 整块代码的证据,这说明在商业环境中,Copilot 是一个异常危险的工具。」

再深入一点,纵然 Copilot 没有逐词复制代码,这里也有一个道德问题:GitHub 或 OpenAI 这些公司借助数千名开发者写出的开源代码训练这些系统,然后再向统一批开发者售卖这些系统,这合适吗?

对此,程序员兼游戏设计师 Evelyn Woods 示意,「感受这像在冷笑开源。」

我们应该把希望寄托于 OpenAI 吗?

OpenAI 现在的真实愿景到底是什么?他们是不是与微软慎密相连,以至于遗忘了自己「为人类提高」而奋斗的初衷?照样说他们真的以为自己拥有最好的工具和头脑来践行这条蹊径,纵然将灵魂出卖给一个大型科技公司也在所不惜?我们是否真的愿意让 OpenAI 根据它的愿景来构建未来?照样说我们希望我们的愿景加倍多样化,并将其与经济利益星散?

OpenAI 正率领人人走向加倍庞大的人工智能,但另有许多和大公司没有款项关系的机构在做相同的事情。他们可能不喜欢恬静地躺在钱堆里,因此我们有理由加倍关注他们所做的事情。

最终,大型科技公司的主要义务不是知足所谓的科学好奇心,探索通用人工智能,也不是构建最平安、最认真、最道德的 AI,而是赚钱。他们会不惜一切做到这一点,纵然这意味要走上一条模糊的蹊径,而我们大多数人都市避开这一蹊径。

OpenAI 的团结首创人马斯克甚至也认同这些指斥:

马斯克:我以为 OpenAI 应该再开放一点。

OpenAI 的人不应该遗忘,他们不能为了到达目的不择手段。这些手段可能会损害更高的目的。

我们想要 AGI 吗?从科学的角度来看,谜底不能能是否认的。人们对于科学的好奇心是没有极限的,然而,我们应该时刻评估潜在的危险。核聚变是特殊的,但核弹不是。

我们想不惜一切价值实现 AGI 吗?从道德的角度来看,谜底不能能是一定的。这些快速生长的手艺将对我们所有人发生影响,以是我们应该注重到这个问题。

或早或晚,那些只关注眼前利益的人终将为结果肩负主要责任。

参考内容:

https://www.reddit.com/r/MachineLearning/comments/pizllt/d_how_openai_sold_its_soul_for_1_billion_the/

https://onezero.medium.com/openai-sold-its-soul-for-1-billion-cf35ff9e8cd4

与吴恩达共话ML未来生长,2021亚马逊云科技中 *** 会可「玩」可「学」

2021亚马逊云科技中 *** 会「第二站」将于9月9日-9月14日全程在线上举行。对于AI开发者来说,9月14日举行的「人工智能和机械学习峰会」最值得关注。

当天上午,亚马逊云科技人工智能与机械学习副总裁Swami Sivasubramanian 博士与 AI 领域著名学者、Landing AI 首创人吴恩达(Andrew Ng )博士睁开一场「炉边谈话」。

Allbet声明:该文看法仅代表作者自己,与本平台无关。转载请注明:免费足球推介(www.zq68.vip):说着“对人类有益”的OpenAI,把灵魂卖给了微软
发布评论

分享到:

USDT场外交易网(www.usdt8.vip):英华裔少女扬威美网 高考丰收再征大满贯 外围赛起步闯8强
你是第一个吃螃蟹的人
发表评论

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。