Dopo essersi dichiarato eleggibile per il Draft NBA 2019, viene selezionato come 22ª scelta assoluta dai Boston Celtics. Nelle prime stagioni con i Boston Celtics non ha un ruolo molto importante nelle rotazioni dei Celtics, soprattutto perché Williams non aveva delle buone percentuali al tiro e ai liberi ma dopo l'arrivo di Ime Udoka nella stagione 2021 Williams riesce completamente a svoltare la sua carriera diventando un ottimo tiratore da tre punti e un pezzo fondamentale per la difesa dei Celtics. A fine stagione 2021-2022 Williams è uno dei migliori giocatori nella NBA per percentuali da tre punti e dai tiri liberi e finalmente si ritaglia uno spazio importante nelle rotazioni dei Celtics. Durante la offseason 2022 Williams non riceve la sua prima estensione contrattuale con i Celtics dopo il contratto da rookie perché i Celtics vorranno aspettare la stagione successiva per offrirgliene uno più importante che lo farà restare a Boston anche più a lungo.
A luglio 2023 però viene scambiato, in una trade a tre, a Dallas, in cambio di pick swap.