" 전도사들이 열렬히 추구하는 방식의 효율에서 강조되는 것은 다양성, 복잡성, 상호 의존성이 아니라 표준화, 단순화, 속도다."
최근 유행하고 있는 generative AI, 많은 곳들에서 앞으로의 세상은 AI를 다룰 수 있는 사람과 그렇지 않은 사람으로 나뉠 것이다 라고 한다.
계속 듣다보면 빨리 살펴보지 않으면 뒤쳐질 것 같은 조급함을 만들어내고, 이는 AI를 잘 활용해서 어떻게 결과물을 잘 만들어낼 것인가에 집중하게 한다.
결과물 뒤에 있는 AI의 실체에 대해서는 전혀 관심이 생길 겨를이 없다.
AI 지도책은 AI 결과가 아닌 AI의 과정에 집중하게 한다.
삶을 풍요롭게 만드는 데 도움을 주는 것으로 보이지만, 엄청난 자원을 활용함에 따라 자연에 피해를 주고 있다는 것
정확한 정보를 내 주는 것으로 보이지만, 그 안에는 편협하거나 불순한 의도가 있는 분류 기준이 있다는 것
결국 이 모든 것들이 조정하는 것은 권력의 힘이라는 것
권력이 없는 자는 권력자들의 힘에 의해 선택지 없이 표준화되고 단순화되고 속도를 내는 도구로 활용되게 된다는 것이다.
AI가 만들어내는 새로운 물결을 거스르기는 쉽지 않아 보인다.
다만, 제대로 AI 지도책을 펼쳐놓고 다각도로 고민하며 물결에 제대로 올라타기 위한 노력은 필요해 보인다.
‘인공지능’ 이라는 용어의 폭넓은 의미는 지능의 정치적 성격에서 대규모 데이터 수집까지, 기술 부문의 산업적 집중에서 지정학적 군사력까지, 자연이 사라진 환경에서 현재진행형인 차별의 형태까지 이 모든 구성요소와 이것들이 어떻게 깊숙이 얽혀 있는지 들여다볼 권한을 우리에게 부여한다. 우리의 과제는 그 지형을 계속해서 눈여겨보고, ‘인공지능’이라는 용어의 가변적이고 유연한 의미에 주목하는 것이다.
많은 사람들이 밝혔듯 전기차는 이산화탄소 배출의 완벽한 해결책과는 거리가 멀다. 배터리 공급사슬에서 이루어지는 채굴, 제련, 추출, 조립, 운송은 환경에 심각한 악영향을 끼치며 환경 파괴는 지역사회에 피해를 입힌다.
미국 소비자기술협회의 발표에 따르면 스마트폰의 평균 수명은 4.7년에 불과하다. 이 노후화 주기는 더 많은 기기의 구매를 유도하고 이윤을 끌어올리고 지속 불가능한 추출 관행을 부추긴다. 광물, 성분, 원료들의 개발 과정은 느릿느릿 진행되지만 그러한 과정만 끝나면 채굴, 처리, 혼합, 제련, 물류 운송은 일사천리로 진행된다.
AI 시스템의 일생에는 인간 노동과 천연자원의 착취, 기업 권력과 지정학적 권력의 거대 집중 등 여러 프랙털적 공급사슬이 존재한다. 그리고 처음부터 끝까지 지속적인 대규모의 에너지 소비가 이 사슬을 굴러가게 한다.
알고리즘 연산, 전산통계학, 인공지능은 20세기에 사회적, 환경적 과제를 해결하기 위해 개발되었지만 이후에는 산업적 추출과 착취를 배가하여 환경 자원을 더욱 고갈시키고 말았다.
데이터 센터는 세계 최대의 전기 소비처 중 하나다. 이 다층적인 기계에 동력을 공급하려면 석탄, 가스, 원자력, 재생에너지 등의 전력이 필요하다.
AI 시스템의 확장과 공정 자동화에 대해 흔히 들을 수 있는 문구는 지금이 인간과 AI가 호혜적으로 협력하는 시대라는 것이다. 하지만 이 협력은 공정한 협상의 결과물이 아니다. 계약의 토대는 현저한 권력 불균형이다. 알고리즘 시스템과 협력하지 ‘않는’ 선택이라는 것이 과연 가능하겠는가? 기업이 새로운 AI 플랫폼을 도입할 때 직원들이 거부할 수 있는 경우는 거의 없다. 이것은 협력이라기 보다는 강제 짝짓기에 가깝다. 노동자들은 기술을 새로 배우고 변화에 발맞추고 새로운 기술 발전을 무조건 수용해야 한다.
배비지의 이론은 일종의 금융자유주의에 부쩍 기울어 있었기에, 그는 노동을 자동화에 의해 통제해야 할 문제로 여기게 되었다. 이 자동화의 인간적 비용이 얼마나 되는지, 자동화를 활용하여 공장 종업원들의 작업 여건을 개선할 수 있는지에는 별로 관심이 없었다. 오히려 배비지의 이상화된 기계는 공장 소유주와 투자자의 금융 소득을 극대화하는 것을 주된 목표로 삼았다. 비슷한 맥락에서 오늘날 작업장 AI를 옹호하는 사람들이 제시하는 생산 형식은 반복적인 고된 노동을 대체함으로써 직원들을 지원하기보다는 효율, 비용 절감, 이윤 증대를 우선시 한다.
전도사들이 열렬히 추구하는 방식의 효율에서 강조되는 것은 다양성, 복잡성, 상호 의존성이 아니라 표준화, 단순화, 속도다.
[과학적 관리법]은 도구와 작업 절차에 대한 최적의 효율적 배치를 도출하기 위해 노동자 신체의 움직임을 정량화하는 체계를 확립했다. 그의 목표는 최소 비용으로 최대 산출을 얻는 것이었다. 이것은 시간의 지배에 대한 마르크스의 묘사를 구체화한 본보기였다. ‘시간이 모든 것이고 인간은 이미 무와 같다. 인간은 기껏해야 시간의 해골에 지나지 않는다.’
노동과 자동화의 역사는 모든 노동자에게 더 공정한 여건을 조성하는 것이야말로 관건이며 정당성을 얻기 위해 기술 노동의 정의를 확장하는 방법으로는 이 포괄적 목표를 달성할 수 없음을 우리에게 상기시킨다. 노동의 미래가 어떤 모습일 것인가는 우리 모두의 중대 관심사이기 때문이다.
유명인 블로그 같은 출처에 공개된 정보를 활용하면 배우와 정치인을 식별할 수 있었으며 스트립 클럽을 찾는 사람들의 주소를 찾아낼 수도 있었다. 하지만 이런 데이터 집합은 개인적 피해를 뛰어넘어 집단이나 지역사회 전체에 ‘예측 관련 프라이버시 침해’를 일으킨다. 이를테면 앞서 언급한 뉴욕 시 택시 데이터 집합은 기도 시간에 택시 운행이 중단되는 것을 관찰하여 어느 운전사가 독실한 무슬림인지 알아내는 데 이용되었다.
저임금 크라우드 노동자들은 워드넷 신세트와 위키백과 정의를 바탕으로 이미지를 분당 50건의 속도로 판단하여 범주에 끼워 맞추는 불가능한 작업을 할당받는다. 이렇게 라벨링된 이미지의 기층을 조사했을 때 고정관념, 오류, 부조리가 잔뜩 드러나는 것은 전혀 놀랄 일이 아니다. 비치 타월에 누워 있는 여성은 ‘도벽 환자’이고 스포츠 저지를 입은 10대는 ‘루저’라는 라벨이 달리며 배우 시고니 위버의 사진은 ‘남녀한몸’으로 분류된다. 여느 데이터 형식과 마찬가지로 이미지는 온갖 종류의 잠재적 의미, 답할 수 없는 질문, 모순으로 가득하다.
프레더릭 더글러스의 말을 빌리자면, ‘권력은 요구하지 않으면 아무것도 양보하지 않는다. 결코 그러지 않았고 결코 그러지 않을 것이다.’ 기계학습의 보이지 않는 분류 체계 내에서는 요구를 제시하고 내부의 논리에 반대하기가 더 힘들다.
에크먼은 속임수 탐지 기법을 교통안전국 같은 보안기관에 팔았으며, 교통안전국은 이 기법을 이용하여 ‘관찰을 통한 승객 선별 기법(SPOT)’ 프로그램을 개발했다. SPOT은 9.11 공격 이후에 항공 여행객의 표정을 감시하여 테러범을 ‘자동으로’ 탐지하는 데 이용되었다. 시스템에 채택된 아흔네 가지의 기준은 전부 스트레스나 두려움, 속임수의 징후라고 한다.하지만 이런 반응에 주목하다 보면 일부 집단이 직접적으로 불이익을 당하게 마련이다.
인공지능은 인간의 지시 없이 판단을 내리는 객관적이고 보편적인 연산 기법이 아니다. 인공지능 시스템은 사회적, 정치적, 문화적, 경제적 세계에 붙박여 있으며, 무엇을 어떻게 해야 하는지 결정하는 인간, 제도, 명령에 의해 빚어진다. 이 시스템은 차별하고 서열을 증폭하고 편협한 분류를 구현하도록 설계되었다.
최근 유행하고 있는 generative AI, 많은 곳들에서 앞으로의 세상은 AI를 다룰 수 있는 사람과 그렇지 않은 사람으로 나뉠 것이다 라고 한다.
계속 듣다보면 빨리 살펴보지 않으면 뒤쳐질 것 같은 조급함을 만들어내고, 이는 AI를 잘 활용해서 어떻게 결과물을 잘 만들어낼 것인가에 집중하게 한다.
결과물 뒤에 있는 AI의 실체에 대해서는 전혀 관심이 생길 겨를이 없다.
AI 지도책은 AI 결과가 아닌 AI의 과정에 집중하게 한다.
삶을 풍요롭게 만드는 데 도움을 주는 것으로 보이지만, 엄청난 자원을 활용함에 따라 자연에 피해를 주고 있다는 것
정확한 정보를 내 주는 것으로 보이지만, 그 안에는 편협하거나 불순한 의도가 있는 분류 기준이 있다는 것
결국 이 모든 것들이 조정하는 것은 권력의 힘이라는 것
권력이 없는 자는 권력자들의 힘에 의해 선택지 없이 표준화되고 단순화되고 속도를 내는 도구로 활용되게 된다는 것이다.
AI가 만들어내는 새로운 물결을 거스르기는 쉽지 않아 보인다.
다만, 제대로 AI 지도책을 펼쳐놓고 다각도로 고민하며 물결에 제대로 올라타기 위한 노력은 필요해 보인다.
‘인공지능’ 이라는 용어의 폭넓은 의미는 지능의 정치적 성격에서 대규모 데이터 수집까지, 기술 부문의 산업적 집중에서 지정학적 군사력까지, 자연이 사라진 환경에서 현재진행형인 차별의 형태까지 이 모든 구성요소와 이것들이 어떻게 깊숙이 얽혀 있는지 들여다볼 권한을 우리에게 부여한다. 우리의 과제는 그 지형을 계속해서 눈여겨보고, ‘인공지능’이라는 용어의 가변적이고 유연한 의미에 주목하는 것이다.많은 사람들이 밝혔듯 전기차는 이산화탄소 배출의 완벽한 해결책과는 거리가 멀다. 배터리 공급사슬에서 이루어지는 채굴, 제련, 추출, 조립, 운송은 환경에 심각한 악영향을 끼치며 환경 파괴는 지역사회에 피해를 입힌다.미국 소비자기술협회의 발표에 따르면 스마트폰의 평균 수명은 4.7년에 불과하다. 이 노후화 주기는 더 많은 기기의 구매를 유도하고 이윤을 끌어올리고 지속 불가능한 추출 관행을 부추긴다. 광물, 성분, 원료들의 개발 과정은 느릿느릿 진행되지만 그러한 과정만 끝나면 채굴, 처리, 혼합, 제련, 물류 운송은 일사천리로 진행된다.AI 시스템의 일생에는 인간 노동과 천연자원의 착취, 기업 권력과 지정학적 권력의 거대 집중 등 여러 프랙털적 공급사슬이 존재한다. 그리고 처음부터 끝까지 지속적인 대규모의 에너지 소비가 이 사슬을 굴러가게 한다.알고리즘 연산, 전산통계학, 인공지능은 20세기에 사회적, 환경적 과제를 해결하기 위해 개발되었지만 이후에는 산업적 추출과 착취를 배가하여 환경 자원을 더욱 고갈시키고 말았다.데이터 센터는 세계 최대의 전기 소비처 중 하나다. 이 다층적인 기계에 동력을 공급하려면 석탄, 가스, 원자력, 재생에너지 등의 전력이 필요하다.AI 시스템의 확장과 공정 자동화에 대해 흔히 들을 수 있는 문구는 지금이 인간과 AI가 호혜적으로 협력하는 시대라는 것이다. 하지만 이 협력은 공정한 협상의 결과물이 아니다. 계약의 토대는 현저한 권력 불균형이다. 알고리즘 시스템과 협력하지 ‘않는’ 선택이라는 것이 과연 가능하겠는가? 기업이 새로운 AI 플랫폼을 도입할 때 직원들이 거부할 수 있는 경우는 거의 없다. 이것은 협력이라기 보다는 강제 짝짓기에 가깝다. 노동자들은 기술을 새로 배우고 변화에 발맞추고 새로운 기술 발전을 무조건 수용해야 한다.배비지의 이론은 일종의 금융자유주의에 부쩍 기울어 있었기에, 그는 노동을 자동화에 의해 통제해야 할 문제로 여기게 되었다. 이 자동화의 인간적 비용이 얼마나 되는지, 자동화를 활용하여 공장 종업원들의 작업 여건을 개선할 수 있는지에는 별로 관심이 없었다. 오히려 배비지의 이상화된 기계는 공장 소유주와 투자자의 금융 소득을 극대화하는 것을 주된 목표로 삼았다. 비슷한 맥락에서 오늘날 작업장 AI를 옹호하는 사람들이 제시하는 생산 형식은 반복적인 고된 노동을 대체함으로써 직원들을 지원하기보다는 효율, 비용 절감, 이윤 증대를 우선시 한다.전도사들이 열렬히 추구하는 방식의 효율에서 강조되는 것은 다양성, 복잡성, 상호 의존성이 아니라 표준화, 단순화, 속도다.[과학적 관리법]은 도구와 작업 절차에 대한 최적의 효율적 배치를 도출하기 위해 노동자 신체의 움직임을 정량화하는 체계를 확립했다. 그의 목표는 최소 비용으로 최대 산출을 얻는 것이었다. 이것은 시간의 지배에 대한 마르크스의 묘사를 구체화한 본보기였다. ‘시간이 모든 것이고 인간은 이미 무와 같다. 인간은 기껏해야 시간의 해골에 지나지 않는다.’노동과 자동화의 역사는 모든 노동자에게 더 공정한 여건을 조성하는 것이야말로 관건이며 정당성을 얻기 위해 기술 노동의 정의를 확장하는 방법으로는 이 포괄적 목표를 달성할 수 없음을 우리에게 상기시킨다. 노동의 미래가 어떤 모습일 것인가는 우리 모두의 중대 관심사이기 때문이다.유명인 블로그 같은 출처에 공개된 정보를 활용하면 배우와 정치인을 식별할 수 있었으며 스트립 클럽을 찾는 사람들의 주소를 찾아낼 수도 있었다. 하지만 이런 데이터 집합은 개인적 피해를 뛰어넘어 집단이나 지역사회 전체에 ‘예측 관련 프라이버시 침해’를 일으킨다. 이를테면 앞서 언급한 뉴욕 시 택시 데이터 집합은 기도 시간에 택시 운행이 중단되는 것을 관찰하여 어느 운전사가 독실한 무슬림인지 알아내는 데 이용되었다.저임금 크라우드 노동자들은 워드넷 신세트와 위키백과 정의를 바탕으로 이미지를 분당 50건의 속도로 판단하여 범주에 끼워 맞추는 불가능한 작업을 할당받는다. 이렇게 라벨링된 이미지의 기층을 조사했을 때 고정관념, 오류, 부조리가 잔뜩 드러나는 것은 전혀 놀랄 일이 아니다. 비치 타월에 누워 있는 여성은 ‘도벽 환자’이고 스포츠 저지를 입은 10대는 ‘루저’라는 라벨이 달리며 배우 시고니 위버의 사진은 ‘남녀한몸’으로 분류된다. 여느 데이터 형식과 마찬가지로 이미지는 온갖 종류의 잠재적 의미, 답할 수 없는 질문, 모순으로 가득하다.프레더릭 더글러스의 말을 빌리자면, ‘권력은 요구하지 않으면 아무것도 양보하지 않는다. 결코 그러지 않았고 결코 그러지 않을 것이다.’ 기계학습의 보이지 않는 분류 체계 내에서는 요구를 제시하고 내부의 논리에 반대하기가 더 힘들다.에크먼은 속임수 탐지 기법을 교통안전국 같은 보안기관에 팔았으며, 교통안전국은 이 기법을 이용하여 ‘관찰을 통한 승객 선별 기법(SPOT)’ 프로그램을 개발했다. SPOT은 9.11 공격 이후에 항공 여행객의 표정을 감시하여 테러범을 ‘자동으로’ 탐지하는 데 이용되었다. 시스템에 채택된 아흔네 가지의 기준은 전부 스트레스나 두려움, 속임수의 징후라고 한다.하지만 이런 반응에 주목하다 보면 일부 집단이 직접적으로 불이익을 당하게 마련이다.인공지능은 인간의 지시 없이 판단을 내리는 객관적이고 보편적인 연산 기법이 아니다. 인공지능 시스템은 사회적, 정치적, 문화적, 경제적 세계에 붙박여 있으며, 무엇을 어떻게 해야 하는지 결정하는 인간, 제도, 명령에 의해 빚어진다. 이 시스템은 차별하고 서열을 증폭하고 편협한 분류를 구현하도록 설계되었다.
.jpeg)
댓글 없음:
댓글 쓰기