奥克兰艺术科技工作室💾🌵对人工智能的批判性看法

下一篇文章

电子邮件正在最年轻的移动用户群中消亡

奥克兰艺术科技工作室💾🌵对人工智能的批判性看法

人工智能没有你想的那么先进。

的确,人工智能也许在技术上取得了进步,但却缺乏对什么该说、现实世界和人们互动方式的根本了解。

在过去两个月中,微软的两次人工智能尝试都失败了。第一次尝试失败和名为 Fetch! 的图像识别应用有关,这款应用能识别出照片中狗的品种。于是,人们就开始用这个应用来判断不同的人种属于哪个狗品种。这么做了之后, 人们发现这款应用把亚洲人识别为哈巴狗或冠毛犬 。本周早些时候,微软又推出了一款名为 Tay 的聊天机器人,放在网上让它和人们交流。在一天的时间里,人们就教会了这个机器人在 Twitter 上发布种族主义言论和其他不适宜内容。在上线 16 小时后,微软将 Tay 下线了。

微软研究副总裁 Peter Lee 在一篇博文中写道 :“我们为 Tay 无意发布的冒犯性和伤害性推文深感抱歉……Tay 现在已经下线,在我们让它能更好地应对恶意使用时,我们会让它在符合我们原则和价值观的前提下回来。尽管我们为这套系统准备了很多套针对滥用的应对方案,但却忽视了这一方面的滥用。结果,Tay 在 Twitter 上发布了非常不合宜、让人恼怒的文字和图片。我们为没有提前考虑到这一可能性负全责。”

还有, 不要忘了谷歌把黑人照片标记为大猩猩的糗事 。这可真是太糟糕了。

💾🌵的 AI Scry 项目应运而生

💾🌵(软盘仙人掌) 最近推出了一款名为 AI Scry(人工智能占卜)的 iOS 应用,它可以用来识别物体。这款应用依赖于微软的 MS COCO 数据集,用神经网络来识别照片。神经网络是机器学习模型的一种。因此,你可以把它当作是一个模式识别系统。

AI Scry 应用很有趣,让人愉快。💾🌵的联合创始人山姆·克罗尼克 (Sam Kronick) 告诉我,他和另一位联合创始人泰拉·诗 (Tara Shi) 希望能找到一种不那么吓人的全新方式来谈论人工智能。AI Scry 的最终目标是撕破人工智能的神秘面纱,“指出它并不是魔法”。

泰拉·诗说道:“人工智能由人创造,而人有缺点和偏见,人工智能也有这些问题。人工智能是算法,是人类创造的工具。”

山姆·克罗尼克和泰拉·诗表示,在处理微软的数据集时,他们开始理解这一系统中的偏见:它非常擅长识别一些物体,却也会忽视其他物体。

山姆·克罗尼克说道:“可以想见,这个过程很有趣,因为你会感觉这一整类算法都是用来做下一个世纪的事情的。”但同时,似乎我们在社会科学上取得的所有进展,以及我们讨论人、物体或事情的不同之处的方法根本不存在。

img_1029

山姆·克罗尼克表示:“要创造能清楚分辨物体的系统,你会想要尽可能将石头和甜甜圈区分开,而不是理解两者之间的共同点。”

AI Scry 能识别日常事物,如食物、等红灯的汽车和拿着蛋糕的男人等。但它不能告诉你有关场景的任何东西。山姆·克罗尼克说道,在交战地带,AI Scry 识别东西会错得让人非常不舒服。

山姆·克罗尼克说道:“你也许会说,数据集错了。但这里面真正有趣的是,你很容易认为自己在让这些系统变得比人类客观。你在将人从这个循环中移除。说它是更客观的观察者很容易。但事实上,整个系统是由一群人类设计师、人类劳动者和人类工人创造的,这些人对数据进行了筛选,对想要寻找的信息进行了选择,对想要实现的功能进行了取舍。”

在最开始听说 AI Scry 时,TechCrunch 的马修·潘扎利诺 (Matthew Panzarino) 想到了可以把它用到可访问性上。山姆·克罗尼克告诉我,他有点担心用这一技术来帮助盲人在城市中导航或穿过马路,部分原因是它不是针对盲人而编写的软件。他接着说道,这一技术目前主要是为正常人打造,让他们能找到某一场景的有趣之处。AI Scry 更多的是一个批判项目,以试图打破人工智能核心的一些东西,未来在这一主题上还会有更多批判性思考。在不久的将来,泰拉·诗将启动一个依赖于神经网络的 3D 生成岩石项目,以进一步探索人工智能的影响。

泰拉·诗说道:“这个项目的想法是用很多岩石照片来训练,让它慢慢学会创造一些它认为是岩石的东西。然后再把这些生成的岩石放回原处,哪怕出现一点变化也会很有趣。”

💾🌵探秘

3D 生成岩石项目和 AI Scry 项目的目标并不是为了赚钱。尽管💾🌵给 AI Scry 的定价是 0.99 美元,但这只能保持项目运转,支付服务器的成本。他们的其他项目包括表情键盘(最近开始通过 Urban Outfitters 销售)和一部 Wi-Fi 随身听(可以随着用户移动读出 Wi-Fi 网络的名称)。

  1. img_1007

  2. img_1006

  3. img_1004

当💾🌵不做 AI Scry 和 Wi-Fi 随身听等项目时,他们就会为谷歌等大公司工作。在上一次制汇节上,💾🌵为谷歌在制汇节上的破坏者实验室制造了一个实验装置,孩子们可以在里面打破东西来做实验。孩子们可以将一堆五彩纸屑放到一个气球里,然后给它打气,直到打爆。💾🌵会用一个高速摄像头拍摄整个过程,然后用计算机视觉算法追踪纸屑,然后生成音乐。

山姆·克罗尼克说道:“这个工作室就是一个平台,可以让我们实现这些古怪想法,不管它们是否会盈利,而不是为了实验创业想法。”

古怪的想法。的确,他们获取灵感的过程也很古怪。他们会带着 Consenual Vibes(他俩制造的另一款基于算法的设备)进入一片沙漠,然后坐在一个大土坑里。他们会启动 Consenual Vibes 的应用,然后左右滑动生成“肉+实验”、“无人机+身体”或“表情+键盘”等想法,直到获得满意结果。Consenual Vibes  和 Tinder 类似,只不过是用来邂逅想法。下面就是他们的灵感获得过程视频。

Oakland-based art and tech studio 💾🌵 takes critical look at A.I.

blog comments powered by Disqus