Илья Валентинович Сегалович родился 13 сентября 1964 года в городе Нижний Новгород, Россия.
С 1981 по 1986 год Илья учился в Московском геологоразведочном институте на геофизическом факультете.
В 1990 году был руководителем группы программного обеспечения компании «Аркадия», которая занималась разработкой программы полнотекстового морфологического поиска текста.
В 90-х годах Сегалович вместе со своим одноклассником Аркадием Воложем создал технологию поиска неструктурированной информации под названием «Яндекс». Вскоре они основали одноименную компанию.
С 1993 по 2000 год Илья был руководителем отдела поисковых систем CompTek International.
В 1997 году Илья стал сооснователем и заместителем председателя правления Реабилитационного художественного центра «Дети Марии», который дает социальную помощь детям-сиротам и детям-инвалидам.
В 2003 году Илья стал занимать пост технического директора компании «Яндекс».
В 2011 году Илья принимал участие в движении против фальсификации результатов выборов в Государственную Думу.
25 июля 2013 появилась информация о смерти Илья Сегалович. Спустя несколько часов стало известно, что Илья в коме и находится на аппарате искусственного жизнеобеспечения, но признаков мозговой активности нет. По информации СМИ, Илья долгое время болел раком желудка.
27 июля 2013 года Сегалович был отключён от аппарата искусственного жизнеобеспечения.
В середине 1990-х годов Илья женился на девушке Марии. У Ильи с Марией был один общий ребенок, а также Илья воспитывал трое детей от ее предыдущего брака.