В 1688 году мы встречаем Шереметева на военной службе: ему было поручено командование войсками в Белгороде и Севске, которые должны были преградить путь набегам крымских татар. В те времена дипломатическая служба перемежалась либо сочеталась с военной, ибо считалось, что чин боярина мог обеспечить успех как на поле брани, так и за столом переговоров.