Original title: 조직 세금

이름:추가 Osmani

사진 Peggy

에디터: AI Agent가 더 저렴하고 쉽게 액세스 할 수 있도록, 소프트웨어 개발은 새로운 단계에 입력됩니다: 문제는 더 이상 에이전트가 활성화 될 수 있는지 여부, 그러나 인간이 관리, 판단 및 출력을 통합하는 충분한 관심을 가지고 있는지 여부。

기사는 영감을 주는 개념 — “공식 세금”. 시작 에이전트의 비용은 매우 낮으며 Prompt 또는 클릭 만합니다. 그러나 실제로 비싼 것은 다음과 같습니다. 결과가 정확하다는 것을 확인하고 다른 에이전트 간의 분쟁을 처리하는 시스템의 아키텍처에 영향을 이해하고, 궁극적으로 주요 지점을 입력 할 수있는 코드를 결정하는 것이 좋습니다. 이 노력은 간단한 병렬로 감소 할 수 없지만 여전히 동일한 직렬 리소스로 돌아가야합니다. 인간 판단。

저자는 AI Agent 시스템의 "GIL"에 개발자를 비교하고, 공동 생산 시스템의 최종 처리량을 제한하는 한 방법 자물쇠. 여러 에이전트는 동시에 작동 할 수 있지만, 건축 판사, 코드 검토 및 분쟁 통합의 단계에 들어가기 때문에 개발자 's 두뇌에 의해 다시 엔지니어링해야합니다. 결과적으로, 더 큰 에이전트의 수, 더 높은 출력, 더 긴 작업 검토, 더 빈번한 컨텍스트 전환 및 개발자를위한 인식 피로。

AI 프로그래밍 도구의 현재 파에서 쉽게 볼 수있는 포인트입니다 : 효율성과 실제 생산성은 항상 동일하지 않습니다. 완전히 화면 에이전트 대시보드는 "높은 항복"의 환상을 만듭니다; 그러나 개발자가 실제로 이해하지 않는 경우, 검토 및 이러한 변경을 통합, 시스템은 결국 생산성에 축적 할 수 있지만 기술 및인지 부채。

그래서 실제 토론은 "더 많은 에이전트를 사용하는 방법"하지만 "사람의 관심 주위에 워크플로우를 재 설계하는 방법." 에이전트의 나이에, 주요 기능은 단지 질문, 할당 작업, 하지만 어떤 작업이 병렬에 기계에 왼쪽 될 수 알고, 어떤 작업은 인간의 판단에 왼쪽 해야 합니다; 검토 해야 하 고 때 그것은 핵심 문제에 중단 하 고 다시 집중 해야 합니다。

AI는 그것의 공동 생산 능력을 확장하고, 그러나 인간적인 관심은 체계에 있는 가장 무서운 자원 남아 있습니다. 진정한 성숙한 에이전트 워크플로, 대신 기계에 모든 작업을 던지고, 신중하게 디자인 생산 시스템과 같은 자신의주의 구조를 설계。

다음은 원본 텍스트입니다:

이제 AI Agent를 시작하는 것은 쉽습니다. 그러나 더 많은 에이전트는 같은 시간에 실행됩니다. 즉, 변경되지 않습니다. 인지 대역폭은 동기화 할 수 없습니다. 모든 판단은 정말 그들을 안내, 그들의 결과를 판단, 그들의 수정을 병합, 궁극적으로 여전히 같은 직렬 프로세서를 통과해야합니다 - 즉, 자신。

소위 "공식 세금"은 기본적으로 당신이 그것을 잊을 때 지불하는 가격입니다. 그리고 유일한 진짜 해결책은 어떤 cogeneration 체계 같이 당신의 자신의 주의를 디자인하는 것을 시작합니다。

저는 Richard Seroter, Aja Hammerly, Ciera Jaspan과 함께 Google I/O에서 라운드테이블 토론에 참여했습니다. 소프트웨어가 이제 어떻게 보일까요? 결국 리처드가 우리를 물었다. " 개발자가 들었을 때 가장 중요한 것은 멀리 가고 변경하는 것이 무엇입니까?"

지난 몇 달 동안 나가고있는 한 가지가 말했습니다. 바쁜 느낌은 실제 출력과 동일하지 않습니다. 동시에 20 에이전트를 실행하고 바쁜 느낌. 그러나 당신은 20 에이전트의 대응 워크로드를 전달하지 않는다。

그 대화에서, 리처드는이 질문을했다. 그는 말했다, '당신은에 대해 얘기했다 세금의 설정이었다.' 머리에 20개의 에이전트를 관리할 수 없습니다

그는 절대적으로 맞았다. 나는 이 개념을 더 완전하게 떨어져 가지고 가고 싶습니다, 그것은 자기 통제의 사정이 아니라 건축의。

나는 거의 말했다 그 라운드 테이블에 구문이 있었고, 그것은 항상 내 마음에 있었다 : 여러 에이전트를 실행하지 않는 것은 세계에서 더 많은 것을 의미하지 않습니다。

사람들은 비대칭하지 않습니다

에이전트 워크플로에서 숨겨진 비대칭이 있습니다。

아주 싼 대리인을 시작하십시오. 키보드에 넣거나 Prompt를 쓸 필요가 있습니다. 그러나 에이전트의 링을 끝내는 것은 싸지 않습니다. 올바르게 반환하고 다른 에이전트 변경으로 다시 협조하면 확인해야합니다。

이 남자는 당신입니다. 그리고 당신은 단지 하나가。

지난 달, 나는 병렬 에이전트 상한에이 문제의 일부를 썼다, 당신이 병렬 스레드가 침묵적으로 실패하는 것을 알 수없는 환경 불안의 종류에 초점을 맞추고. 기사는이 비용 뒤에 구조에 관한 것입니다。

그리고 에이전트를 공동화 시스템으로 찾고 시작할 때 인간이 시스템의 구성 요소임을 깨닫습니다. 느린 serial 성분。

편도 자원입니다

동시 코드를 작성한 경우, 이해하기 위해 instinct이 있었습니다. 그것은 단지 당신이 잘못 된 장소에 instinct을 사용 하는 데 사용。

Python은 GIL입니다. 여러 스레드를 만들 수 있지만 동시에이 잠금을 먼저 얻기 위해해야하기 때문에 파이썬 바이트를 실행하기 위해 하나의 스레드가 있습니다。

AI Agent의 길입니다。

그들은 모두 동시에 실행할 수 있습니다. 그러나 그들의 일은 체계의 건축 또는 통합 충돌의 해결책의 진짜 이해를 요구합니다, 자물쇠 가지고 가야 합니다. 그리고 당신에 의해 왼쪽 한 자물쇠가 있습니다。

암달의 법은 매우 정확합니다 : 병렬화의 가속 캡은 여전히 탠덤에서 수행해야하는 작업의 일부에 달려 있습니다. 병렬로 할 수없는 많은 것들이 있다면, 코어에 넣는 것이 훨씬 중요하지 않습니다. 단단한 천장으로 끝납니다。

에이전트의 개발에서, 이 일련 된 부분은 판단입니다。

8개의 에이전트가 판단 시간을 가속화하지 않습니다. 더 이상 기다리는 queue 만 만들 것입니다。

이것은 성능 공학에서 오래된 사실이지만 많은 사람들이 여전히 비 병목을 최적화하고 전반적인 처리량을 증가하지 않는 놀랐다. 당신은 병목의 앞에 더 많은 unfinished 일을 겹쳐 쌓입니다。

최적화하는 에이전트를 추가하는 것은 그 부분입니다. 실제 제약은 리뷰 링크이며 시스템의 처리량은 정확히 처리량입니다。

세금은 에이전트의 생산 능력과 실제로 병합 할 수있는 사이에 구조적 인 간격입니다. 한방향 리소스를 얻을 때 발생하면 협동 시스템을 관리합니다。

그것은 구조상 천장을 해결하지 않을 것입니다

그리고 그 테이블에 나는 말했다: 나는 내 수단에서 너무 효율적으로 느꼈다, 그러나 나는 너무 피곤하지 않았다。

두 감정은 완전하고 그들은 같은 이유에서 왔습니다。

이 피로의 아주 특정한 근원이 있습니다: 그것은 어떤 여분 시간을 주는 없이 100%에 serial 가공업자를, 누르기 위하여 계속의 감각입니다。

당신이 당신의 마음에서 밖으로 에이전트를 다시 볼 때마다, 당신은 컨텍스트 스위치를 지불. 당신은 당신의 두뇌를 지우고 스크래치에서 다른 언어를 다시로드해야합니다。

CPU는 MICROSECONDS에서 이것을 할 수 있습니다, 그래서 건축가는 빈번한 엇바꾸기를 피하기 위하여 시도할 것입니다. 그리고 그것은 당신이 완료하는 몇 분 걸릴 것입니다, 그리고 당신은 맥락을 완벽하게 할 수 없을 것입니다。

5개의 대리인은 workload를 5배 두배로 하지 않습니다. 5회 추운 추운 컨텍스트 리로드, 그리고 허리에서 계속되는 뇌 과정, 그리고 당신은 지금 검사해야 에이전트에 대해 끊임없이 걱정。

"더 많은 노력"으로 구조적 제약을 해결할 수 없습니다. 이 세금은 항상 지급됩니다。

당신이 그것을 밀어하려고하면, 그것은 다른 형태로 끝날 것이다 : 코드는 얕은 것, 또는 당신은 "인지 surrender"의 상태를 입력 -- 당신의 자신의 판단의 형성 때문에 단순히 에이전트에 의해 작성된 코드를 받아 들였다。

자신의 이니셔티브에 세금을 지불하거나 어둠 속에서 시스템의 이해를 천천히 파괴하십시오。

디자인 시스템과 같은 관심을 디자인하십시오

그래서, 당신은 collusion의 scarce 자원으로 관심을 치료해야합니다。

분배 시스템을 설계 할 때 병목을 볼 수 없습니다. 잘, 당신의 두뇌는 동일한 존경을 줍니다。

여기에 정말 나를 위해 일하는 방법 중 일부는:

UI 기능에 따라 액세스 기능에 따라 에이전트 팀을 확장합니다。

좋은 cogeneration 시스템은 끝없는 큐 성장을 피하기 위해 카운터 압력 메커니즘을 사용합니다. 생산자는 소비자 용량과 일치하기 위해 아래로 느립니다。

에이전트 번호는 생산자, 당신의 능력은 소비자입니다. 병렬 에이전트의 올바른 수는 당신이 심각하게 코드 검토를 완료 할 수있는 숫자의 수이어야한다. 대부분의 사람들을 위해, 이것은 보통 아주 낮은 수입니다。

AI 도구는 확실히 20 에이전트를 시작할 수 있도록 행복 할 것입니다, 그러나 그것은 단지 UI 기능, 당신이 정말로 그들을 관리 할 수있는 능력을 가지고 말을하지。

작업 분류에。

Richard가 이것을 처리하는 방법을 물었을 때, 나는 그것을 언급했다. 나는 2개의 더미로 임무를 분할할 것입니다。

첫 번째는 상대적으로 독립적 인 일이며, 나는 클라우드 뒷면에서 실행하는 에이전트에 손을 잡을 것입니다. 이 작업은 다르게 수행 될 수 있습니다, 일반적으로 마지막 문에 한 번만。

두 번째는 복잡한 작업이며 실제 작업 자체는 판단입니다. 이상한 버그, 또는 건축 디자인처럼。

가장 큰 실수는 작업의 두 번째 범주를 평행하려고했다. 평행한에 있는 다수 복잡한 작업과 분리는 당신의 산출을 확장하지 않을 것입니다, 그러나 자물쇠를 다시 넘어서서 싸게 허용하고, 결국 모든 결과는 악화할 것입니다。

batch 검토。

모든 컨텍스트 스위치는 당신에게 많은 비용을 것입니다. 한 번 앉아서 모든 것이 훨씬 더 저렴하다 하나, 뭔가 다른, 시작 그것 감기 다른 보고。

Agen에게 더 긴 견인된 밧줄을 주십시오. 작업을 조금 축적 한 다음 일괄 처리로 치료하십시오。

이 잠금을 사용하여 판단。

기계가 스스로 증명할 수 있는 무언가에 당신의 두뇌를 낭비하지 마십시오. Agent가 전달하는 테스트를 작성하거나 스크린 샷을 생성합니다。

그들은 건조의 80 %가 아니라 검증 된 부분을 증명합니다. 그래서, 당신의 스카프는 단지 인간적인 판단을 필요로하는의 20 퍼센트에 보냈다。

당신의 serial 시간을 보호하십시오。

Bottlenecks는 몇 가지 에이전트 체크 사이에 파편의 나머지가 아닙니다。

때로는 가장 강력한 이동은 완전히 종료됩니다 : 에이전트로 채워진 컴퓨터를 끄고 한 문제에 집중하고 프로세스 전반에 걸쳐 잠금을 단단히 잡고 있습니다。

조직은 정말 직업이 아닙니다. 그것은 단지 일 주변에 비용입니다。

Aja는 건축 능력이 이제 가장 긴급한 기술이라고 지적했습니다. 에이전트에 적합한 것을 알아야하며 그것을 위해 너무 커지게됩니다。

시스템의 일부임을 추가하고 싶습니다. 당신은 알려진, 낮은 볼륨에주의 지불. 시스템은 숫자를 존중하거나 조용하게 당신의 기준을 낮추기로 우회할 것입니다。

바쁜가 생산적이지 않습니다

이것은 실패의 이 본이 당신에 거의 보이지 않는 때문에 아주 중요합니다。

20개의 런닝 에이전트는 생산성을 줄 것입니다. 대시보드는 모두 움직이고 있습니다. 그러나이 감정과 높은 품질의 코드의 실제 통합 사이의 디코딩이 주요 지점으로 있습니다。

제한으로 얻을 수 있지만 약간의 실제 출력이 있습니다. 둘 다 내부 경험의 점에서 거의 동일하。

Ciera는 Margaret-Anne Storey의 채무 연구를 나타냅니다. 기술 부채와 인지 부채에 대해 이야기했습니다。

구조 세금을 지불하는 실패는 채무의 두 가지 유형을 축적 할 수 있습니다。

당신은 정말 읽지 않았다 뭔가 합병. 코드 라이브러리의 마음 모델은 완전히 날짜에서. 이 질문은 오늘 대시보드에 없습니다. 그리고 그들은 생산 환경이 아래로 끊을 때 보여줄 것입니다 -- 그리고 당신은 시스템을보고 당신은 갑자기 당신이 어떻게 작동했는지 알 수 없습니다。

그래서, 실제 결론은 Agen을 시작하는 것은 능력이 아닙니다. 누구나 20을 실행할 수 있습니다。

실제 기능은 복제 할 수없는 직렬 리소스 주위에 시스템을 설계하고 동기화 할 수 없었다。

이 자료는 당신의 초점입니다。

생산 환경에 따라 달라지는 어떤 중요한 구성 요소와 같은 디자인。

[ 척 ]원본 링크]