Евгений Павлов про ChatGPT и перспективы людей во времена ИИ

Отказать.




Модератор.

Кому: медвед, #28

> Всю свою практику работы программистом (больше 20 лет) я сталкиваюсь с тем, что не существует такого понятия, как законченное ТЗ, не говоря уже про грамотное. Больше того, хорошо, когда ТЗ вообще есть, часто приходится его писать самим программистам.

Вот это полное законченное ТЗ называется "программа". И ваша работа как раз и заключается в уточнении и формализации этого ТЗ до такого уровня, когда "настоящую программу" по этому ТЗ может сделать компилятор. Люди ведь практически не пишут "настоящие программы, которые выполняются компьютером" уже лет 70, с момента изобретения даже не ассемблера, а автокода. А "настоящие программы для железа" сейчас пишутся либо AOT компилятором, либо JIT.

Поэтому, фактически, программирование - это и есть создание "законченного ТЗ", то есть полного, непротиворечивого и относительно быстро исполняемого, написанного на формальном языке. И тут очень важно, что это ТЗ непротиворечиво и полно, поэтому для него используется формальный язык, который, кстати, может быть предметно-ориентированным (DSL).

На эту тему много десятилетий назад писал Э. Дийкстра - https://habr.com/ru/companies/jugru/articles/656173/

> Достоинство формальных текстов заключается в том, что для разумного обращения с ними достаточно следовать нескольким простым правилам; если подумать, это удивительно эффективный инструмент по избавлению от всевозможной ерунды, которой практически не избежать при общении на родном языке.

Отмечу, что типичный микропроцессор выполняет 1E9 инструкций в секунду, если среди них будет хоть одна ошибочная, в лучшем случае будет SIGSEGV, в худшем - компьютер зависнет, как во времена MSDOS. Т.о. программу, которую выполняет компьютер, нужно писать с чудовищной точностью - мы же не можем работать с программами, вылетающими раз в секунду (понятно, что не одна ошибка на 1E9 инструкций, но далеко не одна на сотню). Поэтому от формальных языков не уйти - достаточно оставить мелкую чепуху, и электронный болван её повторит за секунду миллион раз.


Поэтому программирование может умереть только если мы деградируем до 19 века, когда программы станут не нужны, или же практически все люди научатся читать и писать на формальных языках (это планировал ак. Ершов). То есть, как сейчас не нужны писцы.

Кому: JlEC, #44

> Не совсем так. Компилятор не может в "понимание" и "обучение". Ты не можешь ему условно написать "открой дверь". Ему надо определить объект "дверь", описать его. Опеределить действие "открыть", описать его. Ну и так далее.

Да. Мы используем формальный язык с чётко определёнными сущностями.

> Может через 1000, может через 1 000 000 итераций, а может и больше, но рано или поздно она научится и пользователю достаточно будет просто написать ему "открой дверь" и она откроет.

Тут мы напарываемся на то, что программирование бывает очень разным. И легко в пылу спора забыть про всё многообразие систем.

Есть ситуации, когда мы будем вполне удовлетворены частично неправильным результатом программы (пример - скачаем весь сайт oper.ru, а потом будем искать ваши реплики grep'ом по нику JlEC. Да, будут какие-то ложные срабатывания - ничего, мы их потом отфильтруем. Для таких ситуаций даже формальный язык не слишком обязателен, хотя ошибки тоже не должны превышать некоего порога, поэтому тут нейросети подойдут прекрасно.

А есть обратные ситуации - программы со сложнейшей бизнес-логикой внутри, не имеющие права на ошибку, например компиляторы. В таком случае не обойтись без формального языка и формальных правил преобразования этого языка в язык машины (машкоды). И тут, конечно, люди, когда им позволяют условия, используют высочайшие достижения в формальных языках - популярнейшим языком для компиляторов является, к примеру OCaml, код которого, кстати, можно генерировать из Coq.

Если говорить про аналогии с дверью, то в одном случае просьба открыть дверь произносится с дивана в почти пустой комнате (дверей немного, одна выделенная). А в другом случае это когда мы стоим посередине Леруа Мерлен и просим открыть дверь.


Кстати, с учётом того, что в идеале любая программа, которая решает какую-либо практическу задачу, должна быть написана ровно один раз, большой базы этих программ на GH не будет. Скажем, компиляторов Idris2 есть одна штука. Да, есть разные составляющие, которые повторяются, но их разумно оформлять в виде библиотек.