AI Replacing Humans vs AI Augmenting Humans [Bruce Schneier-HIC]

입력 2024-07-30 11:13:32

- 복사완료!

AI Replacing Humans vs AI Augmenting Humans [Bruce Schneier-HIC]

There are two ways AI can start doing tasks that previously were the exclusive purview of humans. The first is that they can replace people. That is, they will become teachers, therapists, and travel agents. They will fly planes and drive cars. The will write newspaper articles. We won‘t need the people anymore, because the AIs are doing the work.

The other is that they augment people, making them more effective. They will help draft

legislation, allowing human legislators to propose even more complex legislation than they could alone. They will suggest negotiating strategies, making human negotiators more effective than before.

Both of these save human labor, but do so differently. AIs replacing people means that the people need to find new jobs. AIs enhancing people means that the peoples‘ jobs change.

인간을 대체하는 AI VS 인간을 강화하는 AI [브루스 슈나이어-HIC] — 2015년 일본 카조의 조립 라인에서 로봇과 인간이 함께 작업하고 있는 모습.[로이터]

Robot and human workers on an assembly line in Kazo, Japan, 2015. [Reuters]

We want to focus on the latter, mostly because it‘s more interesting. There are many ways it could go, depending on how the AI enhances and what we choose to do with the AI-enhanced humans.

The first question is whether the AI enhances in proportion to the human‘s existing expertise or not. Research indicates that it depends on the specifics of the task. For AI-assisted call center workers, it doesn’t work that way. The AI increases the performance of the average worker, but doesn‘t do much to improve the best workers. For computer programmers, it’s the exact opposite. The better programmer the human is, the more their performance is improved with an AI assistant.

The second question is who is in charge, the AI or the human. Author Cory Doctorow distinguishes between helpful and harmful ways to augment humans with AI by analogy to centaurs. An AI augmentation in the mold of a traditional centaur has the human in charge, like an office AI assistant that writes a first draft of an email or a radiological AI app that gives an automatic second opinion to a doctor‘s review of an X-ray. Those types of applications can be very beneficial. The problematic applications are the “reverse centaurs,” that put the AI in charge. Uber is an example of that: the human is driving, but the AI is telling them where to go and what to do.

In the political context, it would be great to empower agency officials with automation tools that allow humans to write down policies and then leave the leg work of implementation to reliable, trustworthy machines. But it would be nightmarish for AI to dictate policy directives and then rely on humans to figure out what they mean and how they are supposed to work.

'Carl' fills drinks for patrons at the Robots Bar and Lounge in the eastern German town of Ilmenau, in July 2013. [Reuters]

This makes sense. People working together, each with specialized skills and knowledge, make each other better. And AI agents working together make each other better. The best of all may be the combination of humans and AI. Bureaucrats who have to do the arduous, repetitive work of reviewing thousands of pages of dull documents will find it useful to have an AI tool instantaneously review those pages first, and give them a heads up about what to look for. They will find that useful even if they have to add on to or overturn some of the findings of the AI.

What‘s exciting is what becomes possible when that human gets to choose what to do with the hours they saved. They can do a deeper review of a thorny issue that they know calls for more research and thought. They can chase down an odd piece of data entry on a form, which might have been a mistake or might be a signal of fraud. And maybe they can review two cases in the time it used to take to do one, or spend their time on another task entirely, whether for work, family, or leisure.

This is the idea of the automation dividend. If we can succeed at offloading more and more of our work to AI, we should all benefit from the time that we, and our employers, and our governments save. And we will fail if the dividend just translates to higher expectations. So if a public-defender with an AI assistant can deliver better representation to their clients and have more time off work, that‘s a win. If the public-defender just gets saddled with twenty times the cases, neither the clients nor the attorney benefit.

Unfortunately, the past century has taught us time and again that not everyone tends to benefit when productivity increases. Often, those gains are captured exclusively by a privileged few.

The worker who produces more each hour is not necessarily repaid by working fewer hours, or being paid more per hour.

지금까지 인간의 독점적인 영역이었던 작업들을 AI가 수행할 수 있는 방법에는 두 가지가 있다. 첫 번째는 AI가 인간을 대체하는 것이다. 즉, AI가 교사가 되고, 치료사가 되고, 여행사 직원이 된다. AI가 비행기를 조종하고 차를 운전한다. 신문 기사도 쓰게 될 것이다. AI가 모든 일을 해주기 때문에 더 이상 사람은 필요하지 않게 될 것이다.

두 번째는 AI가 인간을 강화하여 인간의 효율성을 높여주는 것이다. AI가 법안 초안 작성을 도와주면 인간 입법자 혼자 하는 것보다 훨씬 더 복잡한 법안을 제안할 수 있다. 또 AI가 협상 전략을 제안하여 인간 협상가를 이전보다 더 효과적으로 만들어 줄 수 있다.

둘 다 인간의 노동을 줄여주지만, 그 방식이 다르다. AI가 인간을 대체하는 것은 사람들이 새로운 일자리를 찾아야 한다는 뜻이지만, AI가 사람을 강화하는 것은 사람들이 하는 일이 바뀐다는 뜻이다.

후자가 더 흥미롭기 때문에 후자에 초점을 맞추고자 한다. 후자는 AI가 인간을 어떻게 강화하느냐 또 AI로 강화된 후 사람들이 무엇을 하길 선택하느냐에 따라 나아갈 수 있는 방향이 다양하다.

첫 번째 질문은 AI가 인간이 기존에 갖고 있던 전문성에 비례하게 그 인간을 강화시켜 줄 것인가 여부이다. 연구에 따르면 이는 업무의 내용에 따라 달라진다고 한다. AI의 도움을 받는 콜센터 직원들은 비례하여 강화되지 않는다. 즉, AI가 평균적인 직원의 성과는 개선시키지만, 성과가 이미 높은 직원은 크게 개선시키지 못한다는 것이다. 그러나 컴퓨터 프로그래머의 경우는 정반대이다. 인간이 더 실력이 좋은 프로그래머일수록 AI 어시스턴트를 통해 그 인간의 성과가 더 많이 개선될 수 있다.

두 번째 질문은 AI와 인간 중에 누가 주도권을 잡고 있는가이다. 저자 코리 닥터로(Cory Doctorow)는 켄타우로스에 비유하여 AI가 인간을 강화하는 이로운 방법과 해로운 방법을 구분한다. 전통적인 켄타우로스 유형의 AI 강화에선 이메일 초안을 작성하는 AI 어시스턴트나 의사의 엑스레이 검토 의견에 자동으로 2차 소견을 제공하는 방사선 AI 앱과 같이 인간이 주도권을 갖고 있다. 이런 유형의 응용 프로그램은 매우 유익할 수 있다. 문제가 되는 응용 프로그램은 AI에게 주도권을 주는 “역 켄타로우스”들이다. 이에 대한 예시로는 우버를 들 수 있다. 운전은 인간이 하지만 이들에게 어디로 가야 할지 무엇을 해야 할지 알려주는 것은 AI이다.

정치적 맥락에서는 정책 작성은 인간이 하고 발품을 많이 팔아야 하는 정책 집행은 신뢰할 수 있는 기계에게 맡기는 자동화 도구로 공무원들을 강화할 수 있다면 정말 좋을 것이다. 그러나 AI가 정책 지침을 지시하고 그 후 인간들이 그 지침이 의미하는 바와 그 지침이 어떻게 작동하는지를 알아내야 한다면 이는 악몽일 것이다.

매우 타당한 이야기이다. 각각 전문적인 기술과 지식을 가진 사람들이 함께 일하면 서로를 더 나아지게 만든다. AI 에이전트들도 함께 일하면 서로를 더 나아지게 만든다. 이 중 최선은 인간과 AI이 잘 조합되는 것일 것이다. 수천 페이지나 되는 지루한 문서를 검토해야 하는 힘들고 반복적인 일을 해야 하는 관료의 경우, 그 문서를 먼저 즉각적으로 검토하고 어느 부분을 찾아봐야 하는지 미리 알려주는 AI 도구가 있다면 유용하다고 생각할 것이다. 심지어 때때로 AI가 생성해 낸 결과물에 뭔가를 추가하거나 결과의 일부를 뒤집어야 하는 경우에도 여전히 유용하다고 생각할 것이다.

여기서 흥미로운 점은 이렇게 절약된 시간으로 인간이 뭘 할지 선택할 수 있게 됐을 때 무엇을 하는가이다. 더 많은 조사와 고민을 요구하는 까다로운 문제에 대해 더 깊이 검토할 수도 있고, (실수일 수도 있고 사기의 단서일 수도 있는) 서류 상의 이상한 부분을 추적할 수도 있다. 하나의 사례 검토에 걸리던 시간에 두 개의 사례를 검토하거나 또는 일이든 가족이든 여가든 완전히 다른 것에 시간을 보낼 수도 있다.

이것이 바로 자동화의 배당금(automation dividend)이라는 개념이다. 인간이 하던 일의 점점 더 많은 부분을 AI에게 맡기는 데 성공한다면, 우리가 또 우리 고용주와 우리 정부가 절약한 시간으로부터 모든 사람이 혜택을 봐야 할 것이다. 이 배당금이 단순히 더 많은 일을 하도록 기대하는 것으로 이어진다면 우리는 실패할 것이다. 즉, 국선 변호인이 AI 어시스턴트를 사용함으로써 고객을 더 잘 변호하게 되어 업무 시간이 짧아지게 된다면 이것은 성공이다. 그러나 그 국선 변호인에게 20배 더 많은 사건이 배당된다면 고객에게도 변호사에게도 이득이 전혀 없다.

불행하게도 지난 세기는 생산성이 향상되어도 모든 사람이 혜택을 받는 것은 아니라는 점을 거듭해서 알려주었다. 종종 그 혜택은 소수의 특권층에게만 돌아갔다. 시간당 더 많이 생산한다고 해도 근무 시간이 줄어든다거나 시간당 더 많은 급여를 받는 등 반드시 보상을 받는 것은 아니다.