Изображение по автору
Мне нравится думать о ChatGPT как о более умной версии StackOverflow. Очень полезно, но не заменит профессионалов в ближайшее время. Как бывший специалист по обработке данных, я потратил много времени, играя с ChatGPT, когда он вышел. Я был очень впечатлен его возможностями кодирования. Он может генерировать довольно полезный код с нуля; он мог бы предложить предложения по моему собственному коду. Он был довольно хорош в отладке, если бы я попросил его помочь мне с сообщением об ошибке.
Но неизбежно, чем больше времени я проводил, используя его, тем больше я сталкивался с его ограничениями. Для всех разработчиков, опасающихся, что ChatGPT отнимет их работу, вот список того, чего ChatGPT не может сделать.
Первое ограничение касается не его возможностей, а скорее законности. Любой код, созданный исключительно ChatGPT и скопированный вами в продукт компании, может подвергнуть вашего работодателя ужасному судебному иску.
Это связано с тем, что ChatGPT свободно извлекает фрагменты кода из данных, на которых он обучался, которые поступают со всего Интернета. «Я попросил чат-gpt сгенерировать для меня некоторый код, и я сразу понял, из какого репозитория GitHub он взял большую его часть», объяснены Пользователь Reddit ChunkyHabaneroSalsa.
В конечном счете, неизвестно, откуда взялся код ChatGPT и под какой лицензией он находился. И даже если он был создан полностью с нуля, все, созданное ChatGPT, само по себе не защищено авторским правом. Как пишут авторы Bloomberg Law Шон Хелмс и Джейсон Крайзер положите«Производная работа» — это «работа, основанная на одной или нескольких ранее существовавших работах». ChatGPT обучается на уже существующих работах и генерирует выходные данные на основе этого обучения».
Если вы используете ChatGPT для генерации кода, у вас могут возникнуть проблемы с работодателями.
Вот забавный тест: заставьте ChatGPT создать код, который будет выполнять статистический анализ на Python.
Правильный ли это статистический анализ? Возможно нет. ChatGPT не знает, соответствуют ли данные предположениям, необходимым для того, чтобы результаты теста были действительными. ChatGPT также не знает, что хотят видеть заинтересованные стороны.
Например, я могу попросить ChatGPT помочь мне выяснить, существует ли статистически значимая разница в рейтингах удовлетворенности в разных возрастных группах. ChatGPT предлагает провести независимый выборочный Т-тест и не обнаруживает статистически значимых различий в возрастных группах. Но t-критерий здесь не лучший выбор по нескольким причинам, например, из-за того, что может быть несколько возрастных групп или что данные обычно не распределяются.
Изображение из decipherzone.com
A специалист по данным полного стека будет знать, какие предположения следует проверить и какой тест запустить, и, возможно, сможет дать ChatGPT более конкретные инструкции. Но ChatGPT сам по себе с радостью сгенерирует правильный код для неправильного статистического анализа, делая результаты ненадежными и непригодными для использования.
Для любой подобной проблемы, требующей более критического мышления и решения, ChatGPT — не лучший выбор.
Любой специалист по данным скажет вам, что часть работы — это понимание и интерпретация приоритетов заинтересованных сторон в проекте. ChatGPT или любой другой искусственный интеллект, если уж на то пошло, не может полностью понять или управлять ими.
Во-первых, приоритеты заинтересованных сторон часто включают принятие сложных решений, учитывающих не только данные, но и человеческий фактор, бизнес-цели и рыночные тенденции.
Например, при редизайне приложения вы можете обнаружить, что команда маркетинга хочет уделить приоритетное внимание функциям взаимодействия с пользователем, команда продаж настаивает на функциях, поддерживающих перекрестные продажи, а команде поддержки клиентов нужны улучшенные функции поддержки внутри приложения, чтобы помочь пользователям.
ChatGPT может предоставлять информацию и создавать отчеты, но не может принимать тонкие решения, соответствующие разнообразным, а иногда и конкурирующим интересам различных заинтересованных сторон.
Кроме того, управление заинтересованными сторонами часто требует высокой степени эмоционального интеллекта – способности сопереживать заинтересованным сторонам, понимать их проблемы на человеческом уровне и реагировать на их эмоции. ChatGPT не хватает эмоционального интеллекта и не может управлять эмоциональными аспектами отношений с заинтересованными сторонами.
Возможно, вы не думаете об этом как о задаче кодирования, но ученый, работающий в настоящее время над кодом для этой новой функции, знает, насколько он соответствует приоритетам заинтересованных сторон.
ChatGPT не может придумать ничего действительно нового. Он может только перекомбинировать и переформулировать то, что он узнал из своих обучающих данных.
Изображение из theinsaneapp.com
Хотите знать, как изменить размер легенды на графике R? Нет проблем — ChatGPT может извлечь из тысяч ответов StackOverflow на вопросы, задающие одно и то же. Но (используя пример, который я попросил создать ChatGPT), как насчет чего-то, с чем оно вряд ли сталкивалось раньше, например, организации общественного обеда, где блюдо каждого человека должно содержать ингредиент, начинающийся с той же буквы, что и его фамилия, и вы хотите чтобы убедиться, что есть хороший выбор блюд.
Когда я тестировал это приглашение, оно дало мне код Python, который определял имя часть блюда должна была совпадать с фамилией, даже не отражая правильно требования к ингредиентам. Еще мне хотелось придумать 26 категорий блюд, по одной на букву алфавита. Это был неразумный ответ, вероятно, потому, что это была совершенно новая проблема.
И последнее, но не менее важное: ChatGPT не может кодировать этически. Он не обладает способностью выносить оценочные суждения или понимать моральные последствия фрагмента кода, как это делает человек.
Этическое кодирование предполагает рассмотрение того, как кодекс может повлиять на различные группы людей, обеспечение того, чтобы оно не дискриминировало и не причиняло вреда, а также принятие решений, соответствующих этическим стандартам и социальным нормам.
Например, если вы попросите ChatGPT написать код для системы одобрения кредитов, он может создать модель, основанную на исторических данных. Однако он не может понять социальные последствия этой модели, потенциально отказывающей в кредитах маргинализированным сообществам из-за неточностей в данных. Разработчики-люди должны будут признать необходимость справедливости и равенства, искать и исправлять неточности в данных, а также обеспечивать соответствие кодекса этическим нормам.
Стоит отметить, что люди тоже не идеальны в этом — кто-то запрограммировал Предвзятый инструмент подбора персонала Amazon, и кто-то закодировал Классификация фотографий Google который идентифицировал чернокожих как горилл. Но люди справляются с этим лучше. ChatGPT не хватает сочувствия, совести и моральных рассуждений, необходимых для этического программирования.
Люди могут понимать более широкий контекст, распознавать тонкости человеческого поведения и дискутировать о добре и зле. Мы участвуем в этических дебатах, взвешиваем плюсы и минусы того или иного подхода и несем ответственность за свои решения. Когда мы совершаем ошибки, мы можем учиться на них таким образом, чтобы это способствовало нашему нравственному росту и пониманию.
Мне понравился Redditor Empty_Experience_10 взять на нем: «Если все, что вы делаете, это программируете, вы не инженер-программист, и да, ваша работа будет заменена. Если вы думаете, что инженерам-программистам платят много, потому что они умеют писать код, значит, у вас фундаментальное непонимание того, что значит быть инженером-программистом».
Я обнаружил, что ChatGPT отлично подходит для отладки, проверки кода и немного быстрее, чем поиск ответа на StackOverflow. Но большая часть «кодирования» — это больше, чем просто ввод Python в клавиатуру. Это знание целей вашего бизнеса. Это понимание того, насколько осторожными нужно быть с алгоритмическими решениями. Это выстраивание отношений с заинтересованными сторонами, истинное понимание того, чего они хотят и почему, и поиск способа сделать это возможным.
Это рассказывание историй, знание того, когда выбрать круговую диаграмму или гистограмму, и понимание того, что данные пытаются вам рассказать. Речь идет о способности передавать сложные идеи простыми словами, чтобы заинтересованные стороны могли их понять и принять решения.
ChatGPT ничего этого сделать не может. Пока вы можете, ваша работа в безопасности.
Нейт Росиди специалист по данным и продуктовой стратегии. Он также является адъюнкт-профессором, преподающим аналитику, и является основателем СтратаСкретч, платформа, помогающая специалистам по обработке данных подготовиться к интервью с реальными вопросами интервью от ведущих компаний. Свяжись с ним в Твиттер: StrataScratch or LinkedIn.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://www.kdnuggets.com/5-coding-tasks-chatgpt-cant-do?utm_source=rss&utm_medium=rss&utm_campaign=5-coding-tasks-chatgpt-cant-do
