С 1993 по 1995 год Костин работал заместителем начальника Управления иностранных инвестиций банка «Империал». В 1995 году он был назначен первым заместителем председателя Национального резервного банка, а годом позднее — председателем Внешэкономбанка (ВЭБ). В 2002 году Костин занял должность президента и председателя правления Внешторгбанка (ВТБ), 75,5% которого принадлежат российскому правительству.
В 2006 году Андрей Костин вошел в состав совета директоров «Роснефти», а в 2009 году он занял пост заместителя председателя совета директоров компании. Костину принадлежит 84 951 акция «Роснефти», что составляет 0,0008% от уставного капитала.
В период с 2007 по 2010 год Костин находился в составе совета директоров ОАО «Российские железные дороги». В 2014 году он был назначен директором Высшей школы менеджмента СПбГУ.
В 2016 году Андрей Костин занял 3-е место в списке самых высокооплачиваемых топ-менеджеров России по версии Forbes.
В апреле 2018 года Минфин США
включил Андрея Костина в санкционный список.