Улітку 1921 року АЧК прочитав японську шифротелеграму від 5 липня, яка була направлена до Токіо послом Японії в Лондоні та містила перші згадування про конференцію з роззброєння, що повинна була відбутися в листопаді у Вашингтоні. Після цього читання японського дипломатичного шифролистування стало настільки регулярним, що за кілька місяців до відкриття конференції були введені щоденні поїздки кур'єрів між АЧК і Держдепартаментом. Одна офіційна особа в уряді США з посмішкою помітила, що керівники Держдепартаменту відносилися до роботи криптоаналітиків з АЧК із замилуванням і щоранку читали дешифровані ними японські криптограми, попиваючи при цьому апельсиновий сік або каву.

Метою Вашингтонської конференція з роззброєння було обмежити тоннаж великих військових кораблів. По мірі того, як переговори наближалися до свого головного результату – договору п'яти держав, який встановлював визначене співвідношення тоннажу для Англії, Італії, США, Франції і Японії, персонал Ярдлі читав усе більшу кількість секретних шифрованих інструкцій, що призначалися для країн, що брали участь у переговорах. Він писав: «Американський чорний кабінет, глибоко захований за надійними запорами, усе бачить й усе чує. Хоча віконниці закриті й вікна ретельно зашторені, його гострий зір спостерігає за тим, що діється на секретних нарадах у Вашингтоні, Женеві, Лондоні, Парижі, Римі і Токіо. Його чутливі вуха чують навіть найслабший шепіт у столицях іноземних держав».

Кожен учасник переговорного процесу у Вашингтоні прагнув домогтися найбільш сприятливого для себе тоннажного співвідношення. Найагресивнішою виявилася Японія, що виношувала широкомасштабні задуми, пов'язані з експансією в Азії, але побоювалася викликати невдоволення своїми діями з боку США. У самий розпал конференції, коли Японія зажадала встановити для себе співвідношення 10 до 7 у порівнянні зі США, АЧК прочитав японську шифротелеграму від 28 листопада, яку Ярдлі пізніше назвав найважливішою з дешифрованих ним криптограм.

«Вам слід подвоїти зусилля для досягнення поставлених цілей відповідно до проведеної нами політики, уникаючи при цьому будь-яких зіткнень з Америкою з питання про обмеження озброєнь, – телеграфувало японське МЗС своєму послу у Вашингтоні. – Ви повинні домогтися прийняття пропозиції про співвідношення тоннажу 10 до 6,5. Якщо ж, незважаючи на всі ваші зусилля, через сформовану ситуацію й у інтересах нашої політики виникне потреба піти на поступки, вам необхідно заручитися згодою всіх сторін на обмеження права концентрації Військово-морських сил і проведення маневрів на Тихому океані в обмін на нашу гарантію зберегти там статус-кво. У прийнятій угоді вам також варто зробити відповідне застереження, з якого було б зрозуміло, що саме в цьому складається наш намір, коли ми приймаємо співвідношення 10 до 6».

Зменшення тоннажу Військово-морських сил Японії на 0,5 умовних одиниць, про що йшла мова в цій японській шифротелеграмі, приблизно відповідало двом великим бойовим кораблям. Оскільки представники США на переговорах вчасно одержали з АЧК інформацію про те, що у випадку натиску японці погодяться на збільшення тоннажного співвідношення між Америкою і Японією, залишалося тільки зробити цей натиск на практиці. Що і зробив держсекретар Чарльз Х'юз.

10 грудня Японія «капітулювала». У шифротелеграмі, яка була прочитана АЧК, японська делегація на переговорах у Вашингтоні отримала інструкцію з Токіо про те, що необхідно прийняти співвідношення, запропоноване США. У результаті договір, підписаний п'ятьма державами, встановив для США та Японії співвідношення тоннажа великих військових кораблів у розмірі 10 до 6. Японці сподівалися на більше. Однак домогтися бажаного їм перешкодив АЧК.

За час проведення конференції в АЧК було прочитано та перекладено більше 5000 шифроповідомлень. Внаслідок перенапруження декілька його співробітників занедужали на нервовому ґрунті: один почав щось незв'язно бурмотіти, інший став присвячувати весь свій вільний час ловлі бродячого собаки, у якого на боці нібито був записаний японський дипломатичний код, а третьому уявлялися жахіття, і він постійно носив при собі величезну сумку з камінням, зібраним на морському березі. В результаті усі троє були змушені піти з роботи. Сам Ярдлі також виявився на межі нервового розладу та у лютому 1922 року одержав чотиримісячну відпустку для відновлення свого здоров'я.

Крім стану здоров'я співробітників, предметом постійної турботи з боку держави стало також забезпечення безпеки функціонування АЧК. Його пошта направлялася на підставну адресу. Прізвище Ярдлі не значилося в телефонному довіднику міста Нью-Йорк. Замки на дверях мінялися якнайчастіше. Проте відомості про діяльність АЧК усе-таки просочилися за кордон, тому що була здійснена спроба підкупити Ярдлі. Коли вона провалилася, на службове приміщення АЧК був зроблений напад, після якого зі столів зникли важливі документи.

Щоб не допустити нової пропажі, були прийняті додаткові заходи з безпеки. Тепер кожен аркуш паперу замикався на ніч у сейф, щоб нічого не залишалося в столах, хоча співробітникам АЧК усе-таки дозволялося брати додому матеріали, над розкриттям яких вони працювали.

Через якийсь час Ярдлі разом зі своїми підлеглими переїхав в інший службовий будинок. Як надійне прикриття для них була створена «Компанія зі складання кодів» (англ. Code Compilation Company). А щоб «легенда» виглядала цілком правдоподібною, Ярдлі склав «Загальний торгівельний код», яким компанія зі складання кодів стала торгувати разом з іншими розповсюдженими комерційними кодами.

У 1924 році асигнування АЧК були різко скорочені. У результаті Ярдлі довелося звільнити половину персоналу, і штат співробітників АЧК скоротився приблизно до 12 осіб. Однак, незважаючи на це, за словами Ярдлі, «у 1917—1929 роках АЧК вдалося прочитати більше 45 тисяч шифротелеграм Англії, Аргентини, Бразилії, Німеччини, Домініканської Республіки, Іспанії, Китаю, Коста-Рики, Куби, Ліберії, Мексики, Нікарагуа, Панами, Перу, Сальвадору, Радянського Союзу, Франції, Чилі і Японії, а також проробити попередній аналіз багатьох інших кодів, включаючи коди Ватикану».

У 1929 році плідній діяльності АЧК зненацька прийшов кінець. Справа в тому, що до Ярдлі тексти іноземних шифротелеграм надходили від американських телеграфних компаній, які передавали їх йому з великим небажанням. Коли посаду Президента США зайняв Герберт Гувер, Ярдлі вирішив врегулювати питання про шифроперехоплення з новим урядом раз і назавжди. Він задумав зробити доповідь безпосередньо Президенту з викладом характеру діяльності АЧК, а також необхідних кроків, що повинні бути розпочаті, якщо уряд США бажає цілком використовувати майстерність своїх криптоаналітиків.

Після того як Генрі Стімсон, держсекретар при Гувері, пробув на своїй посаді кілька місяців, що, як вважав Ярдлі, було необхідно для придбання деякого досвіду практичної дипломатії, АЧК направив йому серію важливих дешифрованих криптограм. Однак на відміну від колишніх держсекретарів, на яких ця тактика завжди робила належний вплив, Стімсон, довідавшись про існування АЧК, обурився та суворо засудив його діяльність. Він обізвав її «підлим різновидом шпигунського ремесла» та розцінив як віроломне порушення принципу взаємної довіри, якого він неухильно дотримувався як у своїх особистих справах, так і у своїй зовнішній політиці.

Все сказане Стімсоном було справедливим, якщо, звичайно, відкинути точку зору, відповідно до якої будь-які засоби виправдані, коли вони корисні для інтересів батьківщини. Зробивши акт моральної мужності та припинивши усяку фінансову підтримку АЧК з боку Держдепартамента, Стімсон тим самим затвердив верховенство принципу над інтересами.

Оскільки гроші, що виділялися Держдепартаментом, складали головне джерело утримання АЧК, це означало його неминуче закриття. Невитрачені 6666 доларів і 66 центів, а також всі архіви АЧК були передані армійській службі зв'язку. Його співробітники швидко розбрелися хто куди (служити в армію ніхто з них не пішов), і 31 жовтня 1929 року АЧК (МІ-8) перестав існувати. Десять років його дешифрувальної роботи обійшлися американській скарбниці в 300 000 доларів, при цьому Державний департамент надав дві третини цієї суми, а Військовий – одну.

Ярдлі не зміг підшукати собі роботу і повернувся додому, в рідний Уортінгтон. Там він написав книгу «Американський чорний кабінет» на 375 сторінках, яка була надрукована 1 червня 1931 року. У книзі була викладена історія американської радіотехнічної розвідки та діяльності «МІ-8» під час Першої світової війни, а також АЧК у 1920-х роках і проілюстровані основні принципи радіорозвідки. Ця книга відразу ж стала популярною.

Критики прийшли до висновку, що це був «найсенсаційніший внесок в таємну історію війни, а також післявоєнного періоду, який до цих пір не написана американцем». У США відразу ж було продано 17 931 примірників книги, 5480 – у Великобританії, вона була перекладена на французьку, шведську, японську і китайську мови. Японське видання вийшло безпрецедентним тиражем у 33119 примірників. Ця книга була неприємним сюрпризом для уряду США і скомпрометувала ряд джерел, використаних Ярдлі. Завдяки цій роботі 19 країн було попереджено, що їхні коди були «зламані».

«Батько» американської криптології Уільям Фрідмен, прочитавши книгу, «ошаленів», оскільки визнав, що Ярдлі розкрив джерела і методи роботи криптологів і непомірно прикрасив свої заслуги. Ярдлі, можливо, вважав, що публікація цієї книги змусить уряд відновити програми радіорозвідки, але добився прямо протилежного ефекту. Уряд США намагався почати судове переслідування Ярдлі, але він формально не порушив чинне законодавство відносно захисту урядових документів. До 1933 року були внесені поправки в Закон про шпигунство 1917 року, відповідно до яких було заборонено розкриття іноземних шифрів і шифрованих повідомлень. Друга книга Ярдлі «Японські дипломатичні коди, 1921—1922» була арештована та ніколи не публікувалася, а рукопис був розсекречений тільки у 1979 році.

Пізніше Ярдлі вступив на службу до китайського диктатора Чан Кайши з окладом 10 000 доларів у рік, щоб займатися дешифруванням японських криптограм. У 1940 році він повернувся з Китаю, щоб відправитися до Канади. Там Ярдлі організував дешифрувальне бюро. Однак незабаром його вислали назад до США, де у 1958 році він помер від серцевого нападу. Ще одна книга його мемуарів «Китайський чорний кабінет» (англ. The Chinese Black Chamber) була розсекречена та опублікована тільки у 1983 році.

За значний вклад у криптологію ім'я Герберта Ярдлі увічнене в Залі слави АНБ (англ. NSA Hall of Honor) та військової розвідки США (англ. Military Intelligence Hall of Fame). У бібліотеці Національного музею криптології США (англ. National Cryptologic Museum) зберігається 16 шаф із його особистими документами.