跳到主要内容
搜索登录登录或注册

通过NIME的身体意识:使音乐制作过程自动化

以身体知识为中心的分析,应用于NIME以前的乐器/论文,以及两个新的交互式音乐应用程序的设计和探索。

发布日期:2022年6月16日
通过NIME的身体意识:使音乐制作过程自动化
·

摘要

活体,或索马里是对作为一个身体的现象学体验的命名,而不仅仅是一个物质实体。通过身体意识进化而来的身体知识承载着活体的反射率。本文将这些考虑放在NIME之前的工作背景下,特别是围绕声道或声音旋转,因为它与化身有着独特的关系。我们理解,关注身体美学可以让我们以新颖的方式参与技术,并强调可能会被忽视的偏见。我们提出了一种基于上述概念的呼吸传感器的廉价应用。最后,我们思考如何更好地界定身体意识在NIME中的作用。

关键词

躯体美学、活体、躯体设计、框架、设计、表演、基础设施。

CSS概念

以人为中心的计算→人机交互 (六氯环己烷);•应用计算媒体艺术;表演艺术;

1.简介

身体知识的概念通过我们身体的运动传达了感知和理解世界的特殊性,作为一个只能生存的身体主体[1]。区分“活的”身体和“物理的”身体很重要。第一个概念是作为自己的一种现象来体验的,而第二个概念是指物质实体。索马牌手表是另一个术语,指有生命的、有感觉的身体与物质身体的区别,以及身体美学是对我们如何体验这个活生生的身体作为感官欣赏场所的批判性研究和培养[2]我们发现身体知识的概念对于处理生活的、主观的身体的表现形式或审美体验具有理论意义。因此,身体知识旨在描述生物体的运动能力,即身体的反射能力,它会转向生物体的能力。这种学习是在身体意识的基础上发展起来的。 

计算和声音技术立足于西方的二元范式,其后代是军事娱乐综合体[3]这种世界观造成了两分法和等级制的分离,这是殖民主义和父权制思维的基础,将心灵优先于身体,文明优先于自然,而不是将这些概念作为一个连续统而非对立统来理解。对立的方法意味着将身体视为大脑或其血管的工具,包括离开身体本身的愿望[4]通过技术进步。总而言之,自我,个体,被创造为一个非物质方面——无论是拥有身体的心灵还是灵魂,而不是与感官的、生活的经验相认同。 

活体通过与技术的接触而改变,它受到技术理性修辞的影响,也受到其物质后果的影响[5]。我们感兴趣的是不同的技术方法如何帮助这种深刻的体验式身体知识,而不是进一步脱离它。简单技术的应用可以支持感知的去自动化[6]通过加强参与者对感官通路的注意力。

通过关注身体美学,我们想强调一些偏见或参与技术的方式,否则这些偏见或方式可能会被忽视或质疑。身体美学与现象学相关哲学[7]认知科学和HCI领域的研究人员进行了大量探索。加拉赫和柯什的作品强调了身体在认知中的作用[8]以及“与工具交互如何改变我们的思考和感知方式”[9]这些理论得到了神经生理学研究的支持[10]从而引发了对我们如何设计互动性的重新思考。Dourish在2001年提出的具体互动概念[11]它植根于现象学哲学,并启发了当今被称为有形计算的科学研究领域的创建[12]以及体验式和普适计算[13]身体美学也在较低程度上影响着乐器设计和声音交互方面的艺术和技术研究。为此,我们在本文中的第一个贡献是通过现象学和身体意识方面的文献对之前的NIME作品进行分类。考虑到这样一个企业的复杂性以及NIME文献的广度,就本研究的范围而言,我们决定从手段和产品两方面关注处理声音的工具。这个决定与声音制作本身作为一种体验的独特性有关[14]; 此外,即使事实并非如此,声音的存在也意味着身体是活的。

我们的分析之后是对所提出理论的实际应用的实验。这些概念在其发展中起着指导和起点的作用。本文的第二个贡献是揭示了这个过程的个人经验,试图通过自动人种学对应用程序可能引发的行为形成一个客观的理解[15].

2.NIME分类

在具体分类和实际应用之前,我们的分析是根据引言中的文献进行的。在过去的几个月里,它通过对NIME所做的研究进行了扩展,主要是通过过去NIME会议的文件,但也包括其他努力。我们几乎只看了与声音或声道有关的论文和经验。这一范围界定过程导致了上述贡献的分类,允许根据他们自己的研究成果和原始理论观点对其进行框架化。这种分类的动机在于揭示概念是如何嵌入意识形态假设和偏见的,因此具有某些特征和程序[16]。建议的分类为:

  • 身体的数字超越-它处理通过数字手段和数字建模声道合成声音的情况。它被分为两个子类别。在第一种情况下,身体的数字建模,声道是通过数字手段重建的,这使得声音成为非身体的可能性。在大多数示例中,这意味着通过建模或在其他情况下使用机器学习在任何身体之外创建新的声音,以便使用现成的声音。第二个子类别是通过声音进行拟人化,其中,特定的乐器或软件应用程序(如web服务)通过添加人声进行了拟人化。 

  • 躯体美驱动设计-它将身体作为一个物质和生活的实体来处理。它包含三个子类别。第一个是语音作为材质声音被用来创造另一种乐器或作品。它通常被用作触发器,或被录音用作创造其他东西的原材料。第二个子类别是歌唱作为一种乐器的表现它是基于手势的,通常与表演者在唱歌时的行为有关的先入为主的观念相联系。这些手势的一些例子是宽嘴发音和全身运动。在大多数情况下,表演者或用户的线索都是通过光学跟踪/测量系统捕捉到的,并用作创建或控制声音的输入。它假设传感器和人之间有距离,就像观众和歌手之间的距离一样。第三个子类别是身体作为一种工具从身体接收不明显的输入,作为控制或产生声音的源材料,从内部发音器到肌肉电活动。它也是基于手势的,但不是通过依赖于与身体紧密接触的传感器捕捉的。 

2.1身体的数字超越示例

基于声道的3D打印“语音”乐器[17]是身体数字超越的第一个子类别的恰当示例,即身体数字建模。作者根据声道模型制作了一种材料乐器,有效地将身体的一种神秘艺术对象化,以再现基本话语所需的动作。这种方法的另一个例子是手势控制关节人声合成器[18]正如标题所示,这是一种合成语音,由通过手势控制的声道数字模型制成。这个特殊的案例使用舌头肌肉的激活作为输入来控制呼吸道的几何形状,然后通过实时声学模拟进行发音。尽管它有一个具体化的方面,但它并不一定与歌唱的动作有关,因为手势是基于手的运动。

第二个子类别(语音拟人)的例子是推特竖琴[19]和LiVo[20]在这两篇文章中,都给乐器添加了单词,无论是歌词还是推特上的推特,它都使用这些单词来调节合成的声音。使用LiVo,用户还可以通过键盘调节声音的元音,而预先确定的歌词用于构建动力学。值得注意的是,在这两种贡献中,声音以某种方式与语言的观念联系在一起,特别是书面形式,因此也与它所起的沟通作用联系在一起。一些应用程序使用语音为其他无生命物体(如LiVo或MAGE 2.0)赋予人类特征[21]后者是会说话的吉他。在推特竖琴的例子中,合成语音是对人类或机器人发出的推特进行无关紧要的发声,这带来了数字技术的使用,特别是社交媒体,作为所有用户、人类或其他人之间的通信工具。

在这两个子类别中,声音都被认为是在没有人体的情况下可以存在的东西,是一个具有创造这种声音所需尺寸的物理共振箱。这也与第二类中的第一个子类别“作为材料的声音”有关。

2.2躯体美驱动设计示例

体感驱动设计的第一个子类别是声音作为材料。在里面,我们可以放置谷物棱镜[22]用户的声音被用作颗粒合成和取样的源材料。通过基于触摸和符号的界面,Grain Prism不关注语音的通信能力,而是将语音作为实验输入。即使用户需要生成输入,它仍然被归入外部仪器的控制参数,这可能会减少身体接触。ORB,口腔共鸣球,来自人声振动项目[23]通过反馈和增强人体产生的振动,提供对发声过程中涉及的物理过程的认识。在这种情况下,声音仍然被用作输入,但以发送到对象的振动来表示。提交人表示“指尖比我们的声带振动室含有更多的感官感受器;因此,同一振动信号发送到手上时,与发送到身体中时相比,会有不同的感受,并且更加详细”这通过振动的闭环增强了身体体验。 

Voicon是歌唱作为一种乐器表现方面的一个主要例子[24],一个交互式手势话筒。在这种情况下,增强型麦克风会考虑身体倾斜等手势,内置陀螺仪和压力传感器,以有效调节声音,产生更宽的音高安排以及颤音等歌唱技巧。与娱乐相关的歌唱表演方面被用作输入,通过霸权的标准来统一个人声音的发音。在这种情况下,声音被构造成一种商品,与流行歌星的连载有关,而不是作为一种快乐或知识的身体体验。这个子类别的另一个例子是一个系统,它允许用户使用基于手势的交互技术体验唱歌而不唱歌[25]在这种情况下,通过3D渲染系统、面部和身体跟踪以及语音合成开发了一个媒体装置,使用户能够唱咏叹调。它可以与上述手势控制发音合成器相关;然而,根据西方歌剧经典,这一贡献更多地关注于歌唱的表演和视觉方面及其与感知音乐表达的关系。 

在最后一个子类别中,身体是一种乐器,舌头和凹槽[26]使用超声波扫描仪直接控制声音。它专注于歌唱声音的舌头和肌肉组织,以这种方式保持了歌手与其乐器的亲密关系,同时扩展了其声音能力。另一个类似的经验是通过表面肌电图进行的[27].接口Body Electric[28]是一种带有压力传感器的紧身胸衣,通过歌手的身体知识和呼吸体验设计而成。在这种情况下,表演者通过身体控制传感器;通过Max补丁,她可以触发和控制预先录制的自己声音的轨迹,并实时处理她的呼吸和声音。  

在最后的例子和ORB中值得注意的一个方面是,如何在身体和技术之间创建一个闭环,以放大和变性身体在创造声音中的作用。这种方法是一种有效的方法,通过技术辅助的非自动化,在声音(声音)和使声音成为可能的东西(身体)之间创建一种具体的对应关系。 

值得注意的是,建议的分类可以相互重叠。这主要是作者提出的理论和实践论证中优先考虑的问题,而不仅仅是仪器的规格。

3.通过声音体验具体化

在本文中,我们希望将身体知识作为概念和实践生产的一个核心方面。因此,在第一人称中测试实施例是一个需要作出贡献的方面,以便从身体上了解不同的应用程序和程序可以揭示什么。 

我们最初的兴趣是利用声道生理学的一个方面作为声音的控制器1,尽管至少在其音乐探索的第一步中,构思了一个可以被视为不自然的工具隐喻。这一决定是由Parviainen的[1],戴维斯[6]和舒斯特曼的[2]哲学和实践;它的目的是追求对活动本身的感知的去自动化,以利于围绕感官体验和活体增强自我意识。实际上,这意味着体验由肌肉紧张和放松、吸气、呼气、流涎、吞咽等组成的歌唱行为。

在使声音成为可能的各种生理机制中,我们决定专注于呼吸(吸气和呼气),主要原因有两个。第一个原因反映了呼吸行为在活体体验中的作用。呼吸是许多反思和冥想传统中的正念练习[29]作为一种可以自愿进入的非自愿行为,它在每个人的生理能力范围内都占有一个特权空间,因此为上述自我意识和发自内心的自我意识提供了空间。选择呼吸作为声音体现的第一手探索的第二个原因涉及技术获取的问题。有多种高端传感器可用于测量声道中以消费品形式发生的几种生理机制2,研究技术[20]以及两者的结合[19]这种消费者生物反馈传感器在北美和欧洲等世界西部地区随处可见;同样,在这些国家,复制研究实施所需的工具和材料也很容易获得,而且价格也比较便宜。然而,该项目的实验阶段是由第一作者(A1)在拉丁美洲国家自主进行的,没有外部资金的支持。因此,我们的设计决策必须考虑当地货币价值不佳、巨额进口税和运输成本/时间等问题,以及其他地区现货供应充足的材料普遍短缺的问题。这是NIME研究的不同社区中常见的一种情况,最近Tragtenberg及其同事对此进行了详细讨论[30]考虑到我们手头的个人资源有限,自行呼吸传感器的设计似乎是最适合我们需求的解决方案。这两种文学[31] [32]和在线从业者社区提出廉价的设计,以合理的精度测量呼吸,并依赖可访问的硬件和软件配置。

3.1传感器和应用设计

图片1

皮带呼吸传感器的特写,导电橡胶线连接到织物带。鳄鱼夹将传感器的端子连接到Arduino。

最终设计包括一个简单的带式呼吸传感器。它由一根10厘米长的导电橡胶绳组成,该橡胶绳与一根不可拉伸的织物带相连,长度足以缠绕腹部(图片1). 当皮带在隔膜附近紧贴时,呼吸会使橡胶绳周期性地拉伸和释放。尺寸的变化决定了线缆电阻的变化,可以通过连接到Arduino模拟输入的分压器电路来检测。导电橡胶线购自Adafruit4然后装在一个工具箱里,里面有两个鳄鱼夹和一个电阻器;成本和运输时间分别为10美元和大约一个月。乐队是从旧衣服中回收的,Arduino已经属于A1了。最终的设备就像一个数字风箱,因为传感器的原始数据通过提取输入变化率的Arduino草图进行处理。然后,我们设计了两个定制的声音应用程序,通过设备和串行通信进行控制。这两个应用程序都是用免费/开源软件编程的。

第一个应用程序由Neil Thapen于2017年创建的名为“Pink Trombone”的网络应用程序的修改版本组成5在其原始版本中,粉红长号提供了一个单一的图形界面来激励和控制模拟声道。我们的设计通过将来自Arduino的呼吸数据映射到激励部分,并将图形界面转换为仅控制声道形状,将这些控制模式解耦。因此,当呼气时,虚拟声音被触发,声音跟随呼吸的加速。该应用程序被有意设想为拟议框架的两大类别(即身体的数字超越和身体美学驱动设计)之间的混合,因为它利用下腹部的收缩,这是声音产生的一种内在的躯体机制,来控制网页上合成的数字声音。 

传感器和Arduino装置的第二种布置与从头开始编码的SuperCollider应用程序一起使用。在这种情况下,吸气和呼气的变化率控制音高变化效果的频率和延迟参数,应用于实时语音输入。这会导致持续的扭曲,随着小腹明显而快速的运动,这种扭曲变得更加明显。通过这种设计,我们决定采用第2.2节中讨论的技术和车身之间的闭环。因此,该应用程序属于体感驱动的设计类别,与作为工具的身体更为不同。

4.讨论

A1进行的音乐探索揭示了这两个应用程序之间的差异和相似之处。然而,在大多数情况下,诱发的行为可归因于体美理论的应用,并被证明与相关文献中讨论的内容类似或互补。 

正如第3.1节所介绍的,在第一次应用中,呼气速率激发了由粉红色长号产生的数字声音。这引导A1进行深呼吸,方法是将她的下腹部充气,而不是依靠较浅的胸部运动。弹性传感器、网络应用程序上的图形反馈,以及呼吸和输出声音之间的直接关系,共同强调了声音的体验,即使不是人类的声音。人声模型进行的声学模拟不足以将声音输出识别为“真实的”人声,更不用说识别为A1自己的声音了。尽管如此,所选映射设计的人体美学方面允许数字声音在活体内重新定位,这种方式用更传统的映射策略很难实现,尽管合成技术可能非常先进[14]这使我们认为,即使输出的声音不是那么人性化,而是更多的“外星人”,也可能会有类似的躯体参与,最明显的例子是通用声音合成。虽然听起来很像一个困境,但戴维斯也在虚拟现实领域考虑过类似的事情;像渗透一样工作[33]利用相同的机制提供空间体验“不是基于物理现实,也不是基于我们对物理现实根深蒂固的习惯性反应”据巴切拉德所说,“可以进行身体创新” [34].

第二个应用程序使用呼吸来修改输入声音信号的频率和时域特征。在这种情况下,充气和放气都被接受为控制输入,这表明系统具有非常不稳定的声波平衡点。为了响应这种灵敏度并产生所需的调制,A1决心探索连续手势和速度变化。这些音符以类似断奏的形式进行翻译,通过迫使胃在每个音符中收缩并快速放松来完成;或螺旋形的glishandos,腹部逐渐收缩。与第一次使用时的情况类似,这种映射也鼓励在下腹进行深呼吸,而不是进行浅呼吸,从而使胸部膨胀。但由于此应用程序是为与某人的拥有声道,必须在腹部运动和歌唱声音之间做出更多的妥协。这些在舞蹈设计和实际声音之间的调整传达了一种强烈的手势去自动化的感觉。A1需要明确关注她的呼吸及其引发的动作,而不仅仅是发声。其结果是生理机制和模式的重叠,与Avila及其同事所讨论的类似[35],将注意力转移到演奏以身体为中心的乐器的细微差别上。

这些不同但一致的经验的综合结果为我们的讨论提供了概括的机会。在接下来的小节中,我们将分享三个我们认为有潜力更好地界定身体意识在音乐表演和乐器设计中的作用的思考,超越声音和呼吸的界限。

4.1传感器的选择

传感器的选择会影响表演者的体验以及对人工制品的美学概念化。第一种传感器的布置提高了A1的身体意识,因为它将声音的产生与靠近隔膜的身体特定区域和深呼吸联系在一起。通过关注这种特殊的身体体验而不是声音结果,呼吸的基本动作被用作一种生成力,尽管它是非自愿的。  

数字乐器设计通常侧重于技术和声音因素,较少关注演奏者的身体体验[28]。与从远处跟踪运动的传感器相比,使用伴随运动的传感器不是一种等效的体验。身体和传感器之间的有形对应强调了活体躯体体验的重要性。在我们的案例中,这是通过A1’胸部周围传感器的紧密和弹性拥抱发生的。其他传感器,如相机或其他视觉跟踪设备,由于其距离和设计,将身体作为一个物体进行记录、处理和远程监控。人与传感器之间的关系因传感器对人类活动的距离、接触和干扰而异。因此,将重点转移到“过程”、“体验”和音乐家与传感器的关系上,可以产生新的实践或概念框架。 

4.2我们在复制什么?

重要的是要了解技术的意识形态框架,以便了解复制的是什么。通过第2节中详述的论文和实际应用的分类过程,人们越来越清楚地认识到,在历史和社会上,定位我们如何以及为什么使用技术的重要性。它是为了使某些人类特征同质化吗?当我们在技术上不道德时,是为了远离我们的实际身体能力吗?观念的转变可以改变人们与技术互动的方式;因此,一个人发展它并重新审视代理可能性的方式。技术-语言创意(TVC)[23]基础设施 [36]在处理音乐制作过程时,选择退出经典的方法、过程和结果。在TVC中,这种选择与不遵守强加的殖民范式有关,因为物质上的不可能性或意识形态上的反对——我们在设计过程中也接受了这些理想。这改变了我们参与技术的方式,并积极挑战主导技术的构建意义。最后一个方面也适用于基础设施,因为这一概念围绕着传感器的简单性以及精湛和交互性方面的限制。我们认为我们的探索也是这一范式的一部分。我们并没有试图增强声音本身,而是通过简单的技术、简单的控制和简单的呼吸“手势”来加深声音的身体体验。 

4.3作为反光技术的去自动化

一个违反直觉的应用程序可以促进对体验的反思,这可以在以后推断到其他体验。如第4节所述,去自动化被用作培养A1身体意识的一种技术。这种方法与疏远作为一种有用的策略,可以让人们对平凡的事物进行默契和亲密的思考[37]这是基于延长感知和理解之间的时间,以便重新学习或获得更深入的理解。然而,非自动化也传达了我们与技术和艺术体验的关系通过设计实现自动化的方式。我们在HCI中经常提到的直观设计是我们已经习惯的设计。它依赖于人类感知特性的标准来相应地发挥作用,通常使一些人优先于其他人。 

在练习应用程序的过程中,A1需要接受身体和传感器的变化,以及这些动作对她的声音的影响,而不是复制标准化的表演手势。表演者和传感器之间反馈的这种欣赏与技术机构,可以理解为技术与身体物理或生活之间关系的现状[38]解除这种关系的自动化不仅会影响执行者与工具的关系,还会影响对人机关系中反馈的理解。

5.结论

在这篇论文中,我们接触到了围绕身体知识概念的文献,从中我们对NIME过去的作品进行了分类,并针对声道和声音进行了应用设计。这种对音乐技术的理论和实践探索旨在强调躯体设计在NIME中的重要性和潜力,以及在没有昂贵或复杂技术的情况下创造相关体验的可能性。我们相信,这两个方面都能为未来NIME的重新思考和发展做出巨大贡献。

6.确认

我们要感谢NIME导师计划,因为如果没有它,我们就无法专注于这项研究和实验。

7.道德声明

在这项研究的过程中,我们的首要任务是使用廉价且简单的技术。这一决定部分是由于缺乏资金和无法从拉丁美洲获得特定硬件,但也因为我们认为复杂和昂贵的技术不是相关技术和哲学应用的要求。我们只使用免费/开源软件进行编程。我们在处理实际工作时使用了民族志方法。因此,我们可以确保作者之一是BIPOC女性的包容性,以及在所有测试中的自决能力,以及在数据和隐私方面的同意。 
本文的实际应用程序设计时考虑了可访问性,因为它们不需要大量的编程或音乐知识。
技术的消耗仅限于导电线传感器和端子,因为我们主要使用手头的产品。我们还认为,我们的研究理论框架与对当前环境危机中技术进步和应用的反思相一致。 






评论
0
评论
此处无评论
为什么不开始讨论?