Почему ChatGPT не заменит юристов в строительных проектах

Два с половиной года назад журналисты одного иностранного интернет-портала попросили ChatGPT сгенерировать контракт на строительство в американском штате Калифорния многофункционального комплекса площадью в 2322,5 м². По словам местных юристов, специализирующихся в сфере строительства, этот документ даже имел шанс стать юридически достоверным — в нём были указаны объём работ, условия оплаты, положения о расторжении договора, а также разделы о возмещении убытков, страховании и изменениях в заказе.

Однако в нём также были пропущены некоторые важные условия и не было должного описания управления возможными рисками. Тогда юристы предупредили, что полностью полагаться на ИИ в составлении документации сродни открытию «ящика Пандоры» — риск просто не стоит того.

Сегодня же многие говорят, что возможности технологии значительно улучшились, поскольку она проникла во многие аспекты повседневной жизни. Но может ли ChatGPT на самом деле составить надёжный строительный контракт? Более того, должны ли юристы обращаться к нему для этого?

Разбираемся, что на этот счёт думают высококвалифицированные иностранные специалисты в области правопорядка, и можем ли мы взять что-то полезное из их практики.

ИИ — это лишь вспомогательный инструмент

Хотя ИИ действительно приносит пользу в решении правовых вопросов и задач, эксперты предупреждают, что использование чат-ботов вроде ChatGPT в качестве универсального инструмента для составления контрактов может привести только к проблемам.

«Я была бы в ужасе, если бы услышала, что кто-то использует его для составления контрактов», — прокомментировала Меган Шапиро, адвокат по строительным проектам и партнёр юридической фирмы Radoslovich Shapiro.

Управляющий партнёр Zetlin & De Chiara Майкл Вардаро согласился с коллегой, подчеркнув, что нельзя просто нажать пару кнопок и получить полностью достоверный документ.

Проблема галлюцинаций

Так называемые «галлюцинации»Галлюцинации — в контексте технологий на базе ИИ подразумевает реакцию системы, не соответствующую исходным данным, на которых проводилось её обучение (выдачу недостоверной или несуществующей информации). являются серьёзным недостатком для крупных языковых моделей. Они мешали ещё с момента появления генеративного ИИ в 2022 году, но тогда разработчики обещали, что эта ошибка станет менее распространенной по мере использования и развития технологии. Однако в мае этого года журналисты The New York Times сообщили, что в новых ИИ-системах уровень галлюцинаций достигал 79% в зависимости от метода и инструмента тестирования.

Для юристов это становится серьезной проблемой с точки зрения бизнеса и этики. Конкретный пример: появление LLMБольшая языковая модель (Large Language Model, LLM) — продвинутая вычислительная модель, способная анализировать и генерировать тексты на любую тематику, работает по принципу нейронных сетей. Название «большая» из-за того, что данный тип моделей обучают на огромных наборах данных. привело к возникновению «ИИ‑мусора» в правовой системе, а точнее подаче поддельных или искаженных судебных дел. В настоящее время база данных, которая отслеживает случаи галлюцинаций ИИ в правовых спорах по всему миру, включает около 640 инцидентов.

Почему нужно проверять ответы ИИ

Если игнорировать эти проблемы, то они могут повредить репутацию и привести к финансовым потерям, считает Трент Котни, партнёр юридической фирмы Adams & Reese и глава её строительного департамента. Если адвокат подаст заявление с документами или требованиями, сфабрикованными ИИ, судья имеет полное право рассмотреть вопрос о наложении санкций. «Ваш клиент, очевидно, тоже не будет этому рад», — добавил Котни.

Меган Шапиро волнуется, что клиенты, чтобы сэкономить, станут использовать ИИ вместо услуг адвоката. Эксперт с сожалением отметила, что несмотря на снижение качества ответов нейросетей, доверие людей к нему растёт.

Впрочем, другие юристы не теряют оптимизма, считая, что при должном усердии и внимании искусственный интеллект может помочь им в выполнении повседневных задач. Так, Майкл Вардаро обратил внимание на то, как ИИ значительно ускоряет сбор документов и поиск в них определённой информации. Раньше этой трудоёмкой задачей занимались ассистенты.

«Теперь ИИ может за считанные минуты предоставлять вам нужные данные, на что раньше уходили недели, а то и месяцы», — сказал он.

Как ещё ИИ помогает юристам?

Специалисты отмечают функционал по проверке контрактов на наличие определенных пунктов и сведений. Трент Котни, который называет себя одним из первых его пользователей, заявил:

«Я действительно применяю ИИ в своей работе, чтобы определить, есть ли что-то ещё, о чём я не подумал, а также чтобы отредактировать или скомпилировать определённые высказывания».

Меган Шапиро иногда обращается к нейросетям в качестве инструмента исследования, чтобы находить источники и решения, которые она не смогла бы найти другими способами. Она отметила, что если думать об ИИ как о помощнике юриста или молодом начинающем адвокате, то в нём, безусловно, есть ценность.

Выводы

Эксперты сошлись в мнении о том, что ИИ-инструменты должны использоваться людьми, которые уже знают закон, чтобы они могли определить ошибки в их ответах. Они подчеркнули, что чат-боты не полностью бесполезны, но должны контролироваться пользователем, обладающим юридическим образованием.

Другими словами, ChatGPT и подобные ему модели не отнимут у нас работу. В любом серьёзном проекте на самом деле будут ценны реальные специалисты, обладающие не только теоретическими знаниями, но также насмотренностью и уникальным практическим опытом.