Странное поведение инструментов искусственного интеллекта

Большие языковые модели, технология, лежащая в основе таких инструментов искусственного интеллекта, как ChatGPT и Midjourney, часто ведут себя странным и непредсказуемым образом.

В новом обзорном документе Сэм Боуман, профессор Нью-Йоркского университета и приглашенный исследователь ИИ в стартапе Anthropic, выделил восемь разных вещей , которые делают их такими странными.

Список, основанный на предыдущих исследованиях LLM ( Large Language Model), является отличной отправной точкой для всех, кто пытается следить за тем, как быстро развивается эта технология.

1. LLM предсказуемо становятся более способными с ростом инвестиций, даже без целенаправленных инноваций.
2. Многие важные модели поведения LLM возникают неожиданно как побочный продукт увеличения инвестиций.
3. Часто кажется, что LLM изучают и используют представления внешнего мира.
4. Не существует надежных методов управления поведением LLM.
5. Эксперты еще не в состоянии интерпретировать внутреннюю работу LLM.
6. Производительность человека при выполнении задачи не является верхней границей производительности LLM.
7. LLM не должны выражать ценности своих создателей или ценности, закодированные в веб-тексте.
8. Кратковременные взаимодействия с LLM часто ошибочны.
   ведущий.