Det är inte förenligt med regelverket. Man ska ha en t.o.r-biljett eller en biljett för vidare resa ut ur USA för att uppfylla villkoren för Visa Waiver och ESTA. Andra regler gäller för medborgare i Kanada men då måste ju bebisen ha ett kanadensiskt pass skulle jag tro och inte bara ha en formell rätt till kanadensiskt medborgarskap genom sin mor.
Sannolikt skulle det flygbolag ni reser med inte låta bebisen resa med svenskt pass och ESTA utan returbiljett eller biljett för vidare resa från USA. Ni kanske ska överväga om att ansöka om ett transitvisum (category C visa)?
A refundable one-way ticket out of North America for the Canadian parent and child has been used for such circumstances before where the child doesn’t yet have a Canadian passport but has a Swedish passport. They don’t always ask, but it has helped when asked.
Note that Canada has an ETA requirement for non-Canadians and non-Americans who are neither resident in Canada nor have a Canadian visa in their passport. So the child should have a Canadian ETA gotten for her/him unless the child already has Canadian documents providing residential rights in Canada.