9a42ab07509e9cf0d1b6ab00a6154cdf9b402ae8
[WebKit-https.git] / Source / JavaScriptCore / parser / Parser.cpp
1 /*
2  *  Copyright (C) 1999-2001 Harri Porten (porten@kde.org)
3  *  Copyright (C) 2001 Peter Kelly (pmk@post.com)
4  *  Copyright (C) 2003, 2006, 2007, 2008, 2009, 2010, 2013 Apple Inc. All rights reserved.
5  *
6  *  This library is free software; you can redistribute it and/or
7  *  modify it under the terms of the GNU Library General Public
8  *  License as published by the Free Software Foundation; either
9  *  version 2 of the License, or (at your option) any later version.
10  *
11  *  This library is distributed in the hope that it will be useful,
12  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
13  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  *  Library General Public License for more details.
15  *
16  *  You should have received a copy of the GNU Library General Public License
17  *  along with this library; see the file COPYING.LIB.  If not, write to
18  *  the Free Software Foundation, Inc., 51 Franklin Street, Fifth Floor,
19  *  Boston, MA 02110-1301, USA.
20  *
21  */
22
23 #include "config.h"
24 #include "Parser.h"
25
26 #include "ASTBuilder.h"
27 #include "CodeBlock.h"
28 #include "Debugger.h"
29 #include "JSCJSValueInlines.h"
30 #include "Lexer.h"
31 #include "JSCInlines.h"
32 #include "SourceProvider.h"
33 #include "VM.h"
34 #include <utility>
35 #include <wtf/HashFunctions.h>
36 #include <wtf/StringPrintStream.h>
37 #include <wtf/WTFThreadData.h>
38
39
40 #define updateErrorMessage(shouldPrintToken, ...) do {\
41     propagateError(); \
42     logError(shouldPrintToken, __VA_ARGS__); \
43 } while (0)
44
45 #define propagateError() do { if (hasError()) return 0; } while (0)
46 #define internalFailWithMessage(shouldPrintToken, ...) do { updateErrorMessage(shouldPrintToken, __VA_ARGS__); return 0; } while (0)
47 #define handleErrorToken() do { if (m_token.m_type == EOFTOK || m_token.m_type & ErrorTokenFlag) { failDueToUnexpectedToken(); } } while (0)
48 #define failWithMessage(...) do { { handleErrorToken(); updateErrorMessage(true, __VA_ARGS__); } return 0; } while (0)
49 #define failWithStackOverflow() do { updateErrorMessage(false, "Stack exhausted"); m_hasStackOverflow = true; return 0; } while (0)
50 #define failIfFalse(cond, ...) do { if (!(cond)) { handleErrorToken(); internalFailWithMessage(true, __VA_ARGS__); } } while (0)
51 #define failIfTrue(cond, ...) do { if (cond) { handleErrorToken(); internalFailWithMessage(true, __VA_ARGS__); } } while (0)
52 #define failIfTrueIfStrict(cond, ...) do { if ((cond) && strictMode()) internalFailWithMessage(false, __VA_ARGS__); } while (0)
53 #define failIfFalseIfStrict(cond, ...) do { if ((!(cond)) && strictMode()) internalFailWithMessage(false, __VA_ARGS__); } while (0)
54 #define consumeOrFail(tokenType, ...) do { if (!consume(tokenType)) { handleErrorToken(); internalFailWithMessage(true, __VA_ARGS__); } } while (0)
55 #define consumeOrFailWithFlags(tokenType, flags, ...) do { if (!consume(tokenType, flags)) { handleErrorToken(); internalFailWithMessage(true, __VA_ARGS__); } } while (0)
56 #define matchOrFail(tokenType, ...) do { if (!match(tokenType)) { handleErrorToken(); internalFailWithMessage(true, __VA_ARGS__); } } while (0)
57 #define failIfStackOverflow() do { if (!canRecurse()) failWithStackOverflow(); } while (0)
58 #define semanticFail(...) do { internalFailWithMessage(false, __VA_ARGS__); } while (0)
59 #define semanticFailIfTrue(cond, ...) do { if (cond) internalFailWithMessage(false, __VA_ARGS__); } while (0)
60 #define semanticFailIfFalse(cond, ...) do { if (!(cond)) internalFailWithMessage(false, __VA_ARGS__); } while (0)
61 #define regexFail(failure) do { setErrorMessage(failure); return 0; } while (0)
62 #define failDueToUnexpectedToken() do {\
63         logError(true);\
64     return 0;\
65 } while (0)
66
67 #define handleProductionOrFail(token, tokenString, operation, production) do {\
68     consumeOrFail(token, "Expected '", tokenString, "' to ", operation, " a ", production);\
69 } while (0)
70
71 #define semanticFailureDueToKeyword(...) do { \
72     if (strictMode() && m_token.m_type == RESERVED_IF_STRICT) \
73         semanticFail("Cannot use the reserved word '", getToken(), "' as a ", __VA_ARGS__, " in strict mode"); \
74     if (m_token.m_type == RESERVED || m_token.m_type == RESERVED_IF_STRICT) \
75         semanticFail("Cannot use the reserved word '", getToken(), "' as a ", __VA_ARGS__); \
76     if (m_token.m_type & KeywordTokenFlag) \
77         semanticFail("Cannot use the keyword '", getToken(), "' as a ", __VA_ARGS__); \
78 } while (0)
79
80 using namespace std;
81
82 namespace JSC {
83
84 template <typename LexerType>
85 void Parser<LexerType>::logError(bool)
86 {
87     if (hasError())
88         return;
89     StringPrintStream stream;
90     printUnexpectedTokenText(stream);
91     setErrorMessage(stream.toString());
92 }
93
94 template <typename LexerType> template <typename A>
95 void Parser<LexerType>::logError(bool shouldPrintToken, const A& value1)
96 {
97     if (hasError())
98         return;
99     StringPrintStream stream;
100     if (shouldPrintToken) {
101         printUnexpectedTokenText(stream);
102         stream.print(". ");
103     }
104     stream.print(value1, ".");
105     setErrorMessage(stream.toString());
106 }
107
108 template <typename LexerType> template <typename A, typename B>
109 void Parser<LexerType>::logError(bool shouldPrintToken, const A& value1, const B& value2)
110 {
111     if (hasError())
112         return;
113     StringPrintStream stream;
114     if (shouldPrintToken) {
115         printUnexpectedTokenText(stream);
116         stream.print(". ");
117     }
118     stream.print(value1, value2, ".");
119     setErrorMessage(stream.toString());
120 }
121
122 template <typename LexerType> template <typename A, typename B, typename C>
123 void Parser<LexerType>::logError(bool shouldPrintToken, const A& value1, const B& value2, const C& value3)
124 {
125     if (hasError())
126         return;
127     StringPrintStream stream;
128     if (shouldPrintToken) {
129         printUnexpectedTokenText(stream);
130         stream.print(". ");
131     }
132     stream.print(value1, value2, value3, ".");
133     setErrorMessage(stream.toString());
134 }
135
136 template <typename LexerType> template <typename A, typename B, typename C, typename D>
137 void Parser<LexerType>::logError(bool shouldPrintToken, const A& value1, const B& value2, const C& value3, const D& value4)
138 {
139     if (hasError())
140         return;
141     StringPrintStream stream;
142     if (shouldPrintToken) {
143         printUnexpectedTokenText(stream);
144         stream.print(". ");
145     }
146     stream.print(value1, value2, value3, value4, ".");
147     setErrorMessage(stream.toString());
148 }
149
150 template <typename LexerType> template <typename A, typename B, typename C, typename D, typename E>
151 void Parser<LexerType>::logError(bool shouldPrintToken, const A& value1, const B& value2, const C& value3, const D& value4, const E& value5)
152 {
153     if (hasError())
154         return;
155     StringPrintStream stream;
156     if (shouldPrintToken) {
157         printUnexpectedTokenText(stream);
158         stream.print(". ");
159     }
160     stream.print(value1, value2, value3, value4, value5, ".");
161     setErrorMessage(stream.toString());
162 }
163
164 template <typename LexerType> template <typename A, typename B, typename C, typename D, typename E, typename F>
165 void Parser<LexerType>::logError(bool shouldPrintToken, const A& value1, const B& value2, const C& value3, const D& value4, const E& value5, const F& value6)
166 {
167     if (hasError())
168         return;
169     StringPrintStream stream;
170     if (shouldPrintToken) {
171         printUnexpectedTokenText(stream);
172         stream.print(". ");
173     }
174     stream.print(value1, value2, value3, value4, value5, value6, ".");
175     setErrorMessage(stream.toString());
176 }
177
178 template <typename LexerType> template <typename A, typename B, typename C, typename D, typename E, typename F, typename G>
179 void Parser<LexerType>::logError(bool shouldPrintToken, const A& value1, const B& value2, const C& value3, const D& value4, const E& value5, const F& value6, const G& value7)
180 {
181     if (hasError())
182         return;
183     StringPrintStream stream;
184     if (shouldPrintToken) {
185         printUnexpectedTokenText(stream);
186         stream.print(". ");
187     }
188     stream.print(value1, value2, value3, value4, value5, value6, value7, ".");
189     setErrorMessage(stream.toString());
190 }
191
192 template <typename LexerType>
193 Parser<LexerType>::Parser(VM* vm, const SourceCode& source, FunctionParameters* parameters, const Identifier& name, JSParserStrictness strictness, JSParserMode parserMode)
194     : m_vm(vm)
195     , m_source(&source)
196     , m_hasStackOverflow(false)
197     , m_allowsIn(true)
198     , m_assignmentCount(0)
199     , m_nonLHSCount(0)
200     , m_syntaxAlreadyValidated(source.provider()->isValid())
201     , m_statementDepth(0)
202     , m_nonTrivialExpressionCount(0)
203     , m_lastIdentifier(0)
204     , m_lastFunctionName(nullptr)
205     , m_sourceElements(0)
206     , m_parsingBuiltin(strictness == JSParseBuiltin)
207 {
208     m_lexer = std::make_unique<LexerType>(vm, strictness);
209     m_lexer->setCode(source, &m_parserArena);
210     m_token.m_location.line = source.firstLine();
211     m_token.m_location.startOffset = source.startOffset();
212     m_token.m_location.endOffset = source.startOffset();
213     m_token.m_location.lineStartOffset = source.startOffset();
214     m_functionCache = vm->addSourceProviderCache(source.provider());
215     ScopeRef scope = pushScope();
216     if (parserMode == JSParseFunctionCode)
217         scope->setIsFunction();
218     if (strictness == JSParseStrict)
219         scope->setStrictMode();
220     if (parameters) {
221         bool hadBindingParameters = false;
222         for (unsigned i = 0; i < parameters->size(); i++) {
223             auto parameter = parameters->at(i);
224             if (!parameter->isBindingNode()) {
225                 hadBindingParameters = true;
226                 continue;
227             }
228             scope->declareParameter(&static_cast<BindingNode*>(parameter)->boundProperty());
229         }
230         if (hadBindingParameters) {
231             Vector<Identifier> boundParameterNames;
232             for (unsigned i = 0; i < parameters->size(); i++) {
233                 auto parameter = parameters->at(i);
234                 if (parameter->isBindingNode())
235                     continue;
236                 parameter->collectBoundIdentifiers(boundParameterNames);
237             }
238             for (auto& boundParameterName : boundParameterNames)
239                 scope->declareVariable(&boundParameterName);
240         }
241     }
242     if (!name.isNull())
243         scope->declareCallee(&name);
244     next();
245 }
246
247 template <typename LexerType>
248 Parser<LexerType>::~Parser()
249 {
250 }
251
252 template <typename LexerType>
253 String Parser<LexerType>::parseInner()
254 {
255     String parseError = String();
256     
257     ASTBuilder context(const_cast<VM*>(m_vm), m_parserArena, const_cast<SourceCode*>(m_source));
258     if (m_lexer->isReparsing())
259         m_statementDepth--;
260     ScopeRef scope = currentScope();
261     SourceElements* sourceElements = parseSourceElements(context, CheckForStrictMode);
262     if (!sourceElements || !consume(EOFTOK)) {
263         if (hasError())
264             parseError = m_errorMessage;
265         else
266             parseError = ASCIILiteral("Parser error");
267     }
268
269     IdentifierSet capturedVariables;
270     bool modifiedParameter = false;
271     bool modifiedArguments = false;
272     scope->getCapturedVariables(capturedVariables, modifiedParameter, modifiedArguments);
273     
274     CodeFeatures features = context.features();
275     if (scope->strictMode())
276         features |= StrictModeFeature;
277     if (scope->shadowsArguments())
278         features |= ShadowsArgumentsFeature;
279     if (modifiedParameter)
280         features |= ModifiedParameterFeature;
281     if (modifiedArguments)
282         features |= ModifiedArgumentsFeature;
283     Vector<RefPtr<StringImpl>> closedVariables;
284     if (m_parsingBuiltin) {
285         RELEASE_ASSERT(!capturedVariables.size());
286         IdentifierSet usedVariables;
287         scope->getUsedVariables(usedVariables);
288         for (const auto& variable : usedVariables) {
289             if (scope->hasDeclaredVariable(Identifier(m_vm, variable.get())))
290                 continue;
291             
292             if (scope->hasDeclaredParameter(Identifier(m_vm, variable.get())))
293                 continue;
294
295             if (variable == m_vm->propertyNames->arguments.impl())
296                 continue;
297
298             closedVariables.append(variable);
299         }
300     }
301     didFinishParsing(sourceElements, context.varDeclarations(), context.funcDeclarations(), features,
302         context.numConstants(), capturedVariables, WTF::move(closedVariables));
303
304     return parseError;
305 }
306
307 template <typename LexerType>
308 void Parser<LexerType>::didFinishParsing(SourceElements* sourceElements, DeclarationStacks::VarStack& varStack, 
309     DeclarationStacks::FunctionStack& funcStack, CodeFeatures features, int numConstants, IdentifierSet& capturedVars, const Vector<RefPtr<StringImpl>>&& closedVariables)
310 {
311     m_sourceElements = sourceElements;
312     m_varDeclarations.swap(varStack);
313     m_funcDeclarations.swap(funcStack);
314     m_capturedVariables.swap(capturedVars);
315     m_closedVariables = closedVariables;
316     m_features = features;
317     m_numConstants = numConstants;
318 }
319
320 template <typename LexerType>
321 bool Parser<LexerType>::allowAutomaticSemicolon()
322 {
323     return match(CLOSEBRACE) || match(EOFTOK) || m_lexer->prevTerminator();
324 }
325
326 template <typename LexerType>
327 template <class TreeBuilder> TreeSourceElements Parser<LexerType>::parseSourceElements(TreeBuilder& context, SourceElementsMode mode)
328 {
329     const unsigned lengthOfUseStrictLiteral = 12; // "use strict".length
330     TreeSourceElements sourceElements = context.createSourceElements();
331     bool seenNonDirective = false;
332     const Identifier* directive = 0;
333     unsigned directiveLiteralLength = 0;
334     auto savePoint = createSavePoint();
335     bool hasSetStrict = false;
336     while (TreeStatement statement = parseStatement(context, directive, &directiveLiteralLength)) {
337         if (mode == CheckForStrictMode && !seenNonDirective) {
338             if (directive) {
339                 // "use strict" must be the exact literal without escape sequences or line continuation.
340                 if (!hasSetStrict && directiveLiteralLength == lengthOfUseStrictLiteral && m_vm->propertyNames->useStrictIdentifier == *directive) {
341                     setStrictMode();
342                     hasSetStrict = true;
343                     if (!isValidStrictMode()) {
344                         if (m_lastFunctionName) {
345                             if (m_vm->propertyNames->arguments == *m_lastFunctionName)
346                                 semanticFail("Cannot name a function 'arguments' in strict mode");
347                             if (m_vm->propertyNames->eval == *m_lastFunctionName)
348                                 semanticFail("Cannot name a function 'eval' in strict mode");
349                         }
350                         if (hasDeclaredVariable(m_vm->propertyNames->arguments))
351                             semanticFail("Cannot declare a variable named 'arguments' in strict mode");
352                         if (hasDeclaredVariable(m_vm->propertyNames->eval))
353                             semanticFail("Cannot declare a variable named 'eval' in strict mode");
354                         semanticFailIfFalse(isValidStrictMode(), "Invalid parameters or function name in strict mode");
355                     }
356                     restoreSavePoint(savePoint);
357                     propagateError();
358                     continue;
359                 }
360             } else
361                 seenNonDirective = true;
362         }
363         context.appendStatement(sourceElements, statement);
364     }
365
366     propagateError();
367     return sourceElements;
368 }
369
370 template <typename LexerType>
371 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseVarDeclaration(TreeBuilder& context)
372 {
373     ASSERT(match(VAR));
374     JSTokenLocation location(tokenLocation());
375     int start = tokenLine();
376     int end = 0;
377     int scratch;
378     TreeDeconstructionPattern scratch1 = 0;
379     TreeExpression scratch2 = 0;
380     JSTextPosition scratch3;
381     TreeExpression varDecls = parseVarDeclarationList(context, scratch, scratch1, scratch2, scratch3, scratch3, scratch3);
382     propagateError();
383     failIfFalse(autoSemiColon(), "Expected ';' after var declaration");
384     
385     return context.createVarStatement(location, varDecls, start, end);
386 }
387
388 template <typename LexerType>
389 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseConstDeclaration(TreeBuilder& context)
390 {
391     ASSERT(match(CONSTTOKEN));
392     JSTokenLocation location(tokenLocation());
393     int start = tokenLine();
394     int end = 0;
395     TreeConstDeclList constDecls = parseConstDeclarationList(context);
396     propagateError();
397     failIfFalse(autoSemiColon(), "Expected ';' after const declaration");
398     
399     return context.createConstStatement(location, constDecls, start, end);
400 }
401
402 template <typename LexerType>
403 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseDoWhileStatement(TreeBuilder& context)
404 {
405     ASSERT(match(DO));
406     int startLine = tokenLine();
407     next();
408     const Identifier* unused = 0;
409     startLoop();
410     TreeStatement statement = parseStatement(context, unused);
411     endLoop();
412     failIfFalse(statement, "Expected a statement following 'do'");
413     int endLine = tokenLine();
414     JSTokenLocation location(tokenLocation());
415     handleProductionOrFail(WHILE, "while", "end", "do-while loop");
416     handleProductionOrFail(OPENPAREN, "(", "start", "do-while loop condition");
417     semanticFailIfTrue(match(CLOSEPAREN), "Must provide an expression as a do-while loop condition");
418     TreeExpression expr = parseExpression(context);
419     failIfFalse(expr, "Unable to parse do-while loop condition");
420     handleProductionOrFail(CLOSEPAREN, ")", "end", "do-while loop condition");
421     if (match(SEMICOLON))
422         next(); // Always performs automatic semicolon insertion.
423     return context.createDoWhileStatement(location, statement, expr, startLine, endLine);
424 }
425
426 template <typename LexerType>
427 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseWhileStatement(TreeBuilder& context)
428 {
429     ASSERT(match(WHILE));
430     JSTokenLocation location(tokenLocation());
431     int startLine = tokenLine();
432     next();
433     
434     handleProductionOrFail(OPENPAREN, "(", "start", "while loop condition");
435     semanticFailIfTrue(match(CLOSEPAREN), "Must provide an expression as a while loop condition");
436     TreeExpression expr = parseExpression(context);
437     failIfFalse(expr, "Unable to parse while loop condition");
438     int endLine = tokenLine();
439     handleProductionOrFail(CLOSEPAREN, ")", "end", "while loop condition");
440     
441     const Identifier* unused = 0;
442     startLoop();
443     TreeStatement statement = parseStatement(context, unused);
444     endLoop();
445     failIfFalse(statement, "Expected a statement as the body of a while loop");
446     return context.createWhileStatement(location, expr, statement, startLine, endLine);
447 }
448
449 template <typename LexerType>
450 template <class TreeBuilder> TreeExpression Parser<LexerType>::parseVarDeclarationList(TreeBuilder& context, int& declarations, TreeDeconstructionPattern& lastPattern, TreeExpression& lastInitializer, JSTextPosition& identStart, JSTextPosition& initStart, JSTextPosition& initEnd)
451 {
452     TreeExpression head = 0;
453     TreeExpression tail = 0;
454     const Identifier* lastIdent;
455     do {
456         lastIdent = 0;
457         lastPattern = 0;
458         JSTokenLocation location(tokenLocation());
459         next();
460         TreeExpression node = 0;
461         declarations++;
462         bool hasInitializer = false;
463         if (match(IDENT)) {
464             JSTextPosition varStart = tokenStartPosition();
465             JSTokenLocation varStartLocation(tokenLocation());
466             identStart = varStart;
467             const Identifier* name = m_token.m_data.ident;
468             lastIdent = name;
469             next();
470             hasInitializer = match(EQUAL);
471             failIfFalseIfStrict(declareVariable(name), "Cannot declare a variable named ", name->impl(), " in strict mode");
472             context.addVar(name, (hasInitializer || (!m_allowsIn && (match(INTOKEN) || isofToken()))) ? DeclarationStacks::HasInitializer : 0);
473             if (hasInitializer) {
474                 JSTextPosition varDivot = tokenStartPosition() + 1;
475                 initStart = tokenStartPosition();
476                 next(TreeBuilder::DontBuildStrings); // consume '='
477                 TreeExpression initializer = parseAssignmentExpression(context);
478                 initEnd = lastTokenEndPosition();
479                 lastInitializer = initializer;
480                 failIfFalse(initializer, "Expected expression as the intializer for the variable '", name->impl(), "'");
481                 
482                 node = context.createAssignResolve(location, *name, initializer, varStart, varDivot, lastTokenEndPosition());
483             } else
484                 node = context.createEmptyVarExpression(varStartLocation, *name);
485         } else {
486             lastIdent = 0;
487             auto pattern = parseDeconstructionPattern(context, DeconstructToVariables);
488             failIfFalse(pattern, "Cannot parse this deconstruction pattern");
489             hasInitializer = match(EQUAL);
490             lastPattern = pattern;
491             if (hasInitializer) {
492                 next(TreeBuilder::DontBuildStrings); // consume '='
493                 TreeExpression rhs = parseAssignmentExpression(context);
494                 node = context.createDeconstructingAssignment(location, pattern, rhs);
495                 lastInitializer = rhs;
496             }
497         }
498         
499         if (!head)
500             head = node;
501         else if (!tail) {
502             head = context.createCommaExpr(location, head);
503             tail = context.appendToCommaExpr(location, head, head, node);
504         } else
505             tail = context.appendToCommaExpr(location, head, tail, node);
506     } while (match(COMMA));
507     if (lastIdent)
508         lastPattern = createBindingPattern(context, DeconstructToVariables, *lastIdent, 0, m_token);
509     return head;
510 }
511
512 template <typename LexerType>
513 template <class TreeBuilder> TreeDeconstructionPattern Parser<LexerType>::createBindingPattern(TreeBuilder& context, DeconstructionKind kind, const Identifier& name, int depth, JSToken token)
514 {
515     ASSERT(!name.isEmpty());
516     ASSERT(!name.isNull());
517     
518     ASSERT(name.impl()->isAtomic());
519     if (depth) {
520         if (kind == DeconstructToVariables)
521             failIfFalseIfStrict(declareVariable(&name), "Cannot deconstruct to a variable named '", name.impl(), "' in strict mode");
522         if (kind == DeconstructToParameters) {
523             auto bindingResult = declareBoundParameter(&name);
524             if (bindingResult == Scope::StrictBindingFailed && strictMode()) {
525                 semanticFailIfTrue(m_vm->propertyNames->arguments == name || m_vm->propertyNames->eval == name, "Cannot deconstruct to a parameter name '", name.impl(), "' in strict mode");
526                 if (m_lastFunctionName && name == *m_lastFunctionName)
527                     semanticFail("Cannot deconstruct to '", name.impl(), "' as it shadows the name of a strict mode function");
528                 semanticFailureDueToKeyword("bound parameter name");
529                 if (hasDeclaredParameter(name))
530                     semanticFail("Cannot deconstruct to '", name.impl(), "' as it has already been declared");
531                 semanticFail("Cannot bind to a parameter named '", name.impl(), "' in strict mode");
532             }
533             if (bindingResult == Scope::BindingFailed) {
534                 semanticFailureDueToKeyword("bound parameter name");
535                 if (hasDeclaredParameter(name))
536                     semanticFail("Cannot deconstruct to '", name.impl(), "' as it has already been declared");
537                 semanticFail("Cannot deconstruct to a parameter named '", name.impl(), "'");
538             }
539         }
540         if (kind != DeconstructToExpressions)
541             context.addVar(&name, DeclarationStacks::HasInitializer);
542
543     } else {
544         if (kind == DeconstructToVariables) {
545             failIfFalseIfStrict(declareVariable(&name), "Cannot declare a variable named '", name.impl(), "' in strict mode");
546             context.addVar(&name, DeclarationStacks::HasInitializer);
547         }
548         
549         if (kind == DeconstructToParameters) {
550             bool declarationResult = declareParameter(&name);
551             if (!declarationResult && strictMode()) {
552                 semanticFailIfTrue(m_vm->propertyNames->arguments == name || m_vm->propertyNames->eval == name, "Cannot deconstruct to a parameter name '", name.impl(), "' in strict mode");
553                 if (m_lastFunctionName && name == *m_lastFunctionName)
554                     semanticFail("Cannot declare a parameter named '", name.impl(), "' as it shadows the name of a strict mode function");
555                 semanticFailureDueToKeyword("parameter name");
556                 if (hasDeclaredParameter(name))
557                     semanticFail("Cannot declare a parameter named '", name.impl(), "' in strict mode as it has already been declared");
558                 semanticFail("Cannot declare a parameter named '", name.impl(), "' in strict mode");
559             }
560         }
561     }
562     return context.createBindingLocation(token.m_location, name, token.m_startPosition, token.m_endPosition);
563 }
564
565 template <typename LexerType>
566 template <class TreeBuilder> TreeDeconstructionPattern Parser<LexerType>::tryParseDeconstructionPatternExpression(TreeBuilder& context)
567 {
568     return parseDeconstructionPattern(context, DeconstructToExpressions);
569 }
570
571 template <typename LexerType>
572 template <class TreeBuilder> TreeDeconstructionPattern Parser<LexerType>::parseDeconstructionPattern(TreeBuilder& context, DeconstructionKind kind, int depth)
573 {
574     failIfStackOverflow();
575     int nonLHSCount = m_nonLHSCount;
576     TreeDeconstructionPattern pattern;
577     switch (m_token.m_type) {
578     case OPENBRACKET: {
579         auto arrayPattern = context.createArrayPattern(m_token.m_location);
580         next();
581         if (kind == DeconstructToExpressions && match(CLOSEBRACKET))
582             return 0;
583         failIfTrue(match(CLOSEBRACKET), "There must be at least one bound property in an array deconstruction pattern");
584         do {
585             while (match(COMMA)) {
586                 context.appendArrayPatternSkipEntry(arrayPattern, m_token.m_location);
587                 next();
588             }
589             propagateError();
590             JSTokenLocation location = m_token.m_location;
591             auto innerPattern = parseDeconstructionPattern(context, kind, depth + 1);
592             if (kind == DeconstructToExpressions && !innerPattern)
593                 return 0;
594             failIfFalse(innerPattern, "Cannot parse this deconstruction pattern");
595             context.appendArrayPatternEntry(arrayPattern, location, innerPattern);
596         } while (consume(COMMA));
597         
598         if (kind == DeconstructToExpressions && !match(CLOSEBRACKET))
599             return 0;
600
601         consumeOrFail(CLOSEBRACKET, "Expected either a closing ']' or a ',' following an element deconstruction pattern");
602         pattern = arrayPattern;
603         break;
604     }
605     case OPENBRACE: {
606         next();
607         
608         if (kind == DeconstructToExpressions && match(CLOSEBRACE))
609             return 0;
610
611         failIfTrue(match(CLOSEBRACE), "There must be at least one bound property in an object deconstruction pattern");
612         auto objectPattern = context.createObjectPattern(m_token.m_location);
613         bool wasString = false;
614         do {
615             Identifier propertyName;
616             TreeDeconstructionPattern innerPattern = 0;
617             JSTokenLocation location = m_token.m_location;
618             if (match(IDENT)) {
619                 propertyName = *m_token.m_data.ident;
620                 JSToken identifierToken = m_token;
621                 next();
622                 if (consume(COLON))
623                     innerPattern = parseDeconstructionPattern(context, kind, depth + 1);
624                 else
625                     innerPattern = createBindingPattern(context, kind, propertyName, depth, identifierToken);
626             } else {
627                 JSTokenType tokenType = m_token.m_type;
628                 switch (m_token.m_type) {
629                 case NUMBER:
630                     propertyName = Identifier::from(m_vm, m_token.m_data.doubleValue);
631                     break;
632                 case STRING:
633                     propertyName = *m_token.m_data.ident;
634                     wasString = true;
635                     break;
636                 default:
637                     if (m_token.m_type != RESERVED && m_token.m_type != RESERVED_IF_STRICT && !(m_token.m_type & KeywordTokenFlag)) {
638                         if (kind == DeconstructToExpressions)
639                             return 0;
640                         failWithMessage("Expected a property name");
641                     }
642                     propertyName = *m_token.m_data.ident;
643                     break;
644                 }
645                 next();
646                 if (!consume(COLON)) {
647                     if (kind == DeconstructToExpressions)
648                         return 0;
649                     semanticFailIfTrue(tokenType == RESERVED, "Cannot use abbreviated deconstruction syntax for reserved name '", propertyName.impl(), "'");
650                     semanticFailIfTrue(tokenType == RESERVED_IF_STRICT, "Cannot use abbreviated deconstruction syntax for reserved name '", propertyName.impl(), "' in strict mode");
651                     semanticFailIfTrue(tokenType & KeywordTokenFlag, "Cannot use abbreviated deconstruction syntax for keyword '", propertyName.impl(), "'");
652                     
653                     failWithMessage("Expected a ':' prior to named property deconstruction");
654                 }
655                 innerPattern = parseDeconstructionPattern(context, kind, depth + 1);
656             }
657             if (kind == DeconstructToExpressions && !innerPattern)
658                 return 0;
659             failIfFalse(innerPattern, "Cannot parse this deconstruction pattern");
660             context.appendObjectPatternEntry(objectPattern, location, wasString, propertyName, innerPattern);
661         } while (consume(COMMA));
662         if (kind == DeconstructToExpressions && !match(CLOSEBRACE))
663             return 0;
664         consumeOrFail(CLOSEBRACE, "Expected either a closing '}' or an ',' after a property deconstruction pattern");
665         pattern = objectPattern;
666         break;
667     }
668
669     default: {
670         if (!match(IDENT)) {
671             if (kind == DeconstructToExpressions)
672                 return 0;
673             semanticFailureDueToKeyword("variable name");
674             failWithMessage("Expected a parameter pattern or a ')' in parameter list");
675         }
676         pattern = createBindingPattern(context, kind, *m_token.m_data.ident, depth, m_token);
677         next();
678         break;
679     }
680     }
681     m_nonLHSCount = nonLHSCount;
682     return pattern;
683 }
684
685 template <typename LexerType>
686 template <class TreeBuilder> TreeConstDeclList Parser<LexerType>::parseConstDeclarationList(TreeBuilder& context)
687 {
688     failIfTrue(strictMode(), "Const declarations are not supported in strict mode");
689     TreeConstDeclList constDecls = 0;
690     TreeConstDeclList tail = 0;
691     do {
692         JSTokenLocation location(tokenLocation());
693         next();
694         matchOrFail(IDENT, "Expected an identifier name in const declaration");
695         const Identifier* name = m_token.m_data.ident;
696         next();
697         bool hasInitializer = match(EQUAL);
698         declareVariable(name);
699         context.addVar(name, DeclarationStacks::IsConstant | (hasInitializer ? DeclarationStacks::HasInitializer : 0));
700
701         TreeExpression initializer = 0;
702         if (hasInitializer) {
703             next(TreeBuilder::DontBuildStrings); // consume '='
704             initializer = parseAssignmentExpression(context);
705             failIfFalse(!!initializer, "Unable to parse initializer");
706         }
707         tail = context.appendConstDecl(location, tail, name, initializer);
708         if (!constDecls)
709             constDecls = tail;
710     } while (match(COMMA));
711     return constDecls;
712 }
713
714 template <typename LexerType>
715 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseForStatement(TreeBuilder& context)
716 {
717     ASSERT(match(FOR));
718     JSTokenLocation location(tokenLocation());
719     int startLine = tokenLine();
720     next();
721     handleProductionOrFail(OPENPAREN, "(", "start", "for-loop header");
722     int nonLHSCount = m_nonLHSCount;
723     int declarations = 0;
724     JSTextPosition declsStart;
725     JSTextPosition declsEnd;
726     TreeExpression decls = 0;
727     TreeDeconstructionPattern pattern = 0;
728     if (match(VAR)) {
729         /*
730          for (var IDENT in expression) statement
731          for (var varDeclarationList; expressionOpt; expressionOpt)
732          */
733         TreeDeconstructionPattern forInTarget = 0;
734         TreeExpression forInInitializer = 0;
735         m_allowsIn = false;
736         JSTextPosition initStart;
737         JSTextPosition initEnd;
738         decls = parseVarDeclarationList(context, declarations, forInTarget, forInInitializer, declsStart, initStart, initEnd);
739         m_allowsIn = true;
740         propagateError();
741
742         // Remainder of a standard for loop is handled identically
743         if (match(SEMICOLON))
744             goto standardForLoop;
745         
746         failIfFalse(declarations == 1, "can only declare a single variable in an enumeration");
747         failIfTrueIfStrict(forInInitializer, "Cannot use initialiser syntax in a strict mode enumeration");
748
749         if (forInInitializer)
750             failIfFalse(context.isBindingNode(forInTarget), "Cannot use initialiser syntax when binding to a pattern during enumeration");
751
752         // Handle for-in with var declaration
753         JSTextPosition inLocation = tokenStartPosition();
754         bool isOfEnumeration = false;
755         if (!consume(INTOKEN)) {
756             failIfFalse(match(IDENT) && *m_token.m_data.ident == m_vm->propertyNames->of, "Expected either 'in' or 'of' in enumeration syntax");
757             isOfEnumeration = true;
758             failIfTrue(forInInitializer, "Cannot use initialiser syntax in a for-of enumeration");
759             next();
760         }
761         TreeExpression expr = parseExpression(context);
762         failIfFalse(expr, "Expected expression to enumerate");
763         JSTextPosition exprEnd = lastTokenEndPosition();
764         
765         int endLine = tokenLine();
766         
767         handleProductionOrFail(CLOSEPAREN, ")", "end", (isOfEnumeration ? "for-of header" : "for-in header"));
768         
769         const Identifier* unused = 0;
770         startLoop();
771         TreeStatement statement = parseStatement(context, unused);
772         endLoop();
773         failIfFalse(statement, "Expected statement as body of for-", isOfEnumeration ? "of" : "in", " statement");
774         if (isOfEnumeration)
775             return context.createForOfLoop(location, forInTarget, expr, statement, declsStart, inLocation, exprEnd, startLine, endLine);
776         return context.createForInLoop(location, forInTarget, expr, statement, declsStart, inLocation, exprEnd, startLine, endLine);
777     }
778     
779     if (!match(SEMICOLON)) {
780         if (match(OPENBRACE) || match(OPENBRACKET)) {
781             SavePoint savePoint = createSavePoint();
782             declsStart = tokenStartPosition();
783             pattern = tryParseDeconstructionPatternExpression(context);
784             declsEnd = lastTokenEndPosition();
785             if (pattern && (match(INTOKEN) || (match(IDENT) && *m_token.m_data.ident == m_vm->propertyNames->of)))
786                 goto enumerationLoop;
787             pattern = 0;
788             restoreSavePoint(savePoint);
789         }
790         m_allowsIn = false;
791         declsStart = tokenStartPosition();
792         decls = parseExpression(context);
793         declsEnd = lastTokenEndPosition();
794         m_allowsIn = true;
795         failIfFalse(decls, "Cannot parse for loop declarations");
796     }
797     
798     if (match(SEMICOLON)) {
799     standardForLoop:
800         // Standard for loop
801         next();
802         TreeExpression condition = 0;
803         
804         if (!match(SEMICOLON)) {
805             condition = parseExpression(context);
806             failIfFalse(condition, "Cannot parse for loop condition expression");
807         }
808         consumeOrFail(SEMICOLON, "Expected a ';' after the for loop condition expression");
809         
810         TreeExpression increment = 0;
811         if (!match(CLOSEPAREN)) {
812             increment = parseExpression(context);
813             failIfFalse(increment, "Cannot parse for loop iteration expression");
814         }
815         int endLine = tokenLine();
816         handleProductionOrFail(CLOSEPAREN, ")", "end", "for-loop header");
817         const Identifier* unused = 0;
818         startLoop();
819         TreeStatement statement = parseStatement(context, unused);
820         endLoop();
821         failIfFalse(statement, "Expected a statement as the body of a for loop");
822         return context.createForLoop(location, decls, condition, increment, statement, startLine, endLine);
823     }
824     
825     // For-in loop
826 enumerationLoop:
827     failIfFalse(nonLHSCount == m_nonLHSCount, "Expected a reference on the left hand side of an enumeration statement");
828     bool isOfEnumeration = false;
829     if (!consume(INTOKEN)) {
830         failIfFalse(match(IDENT) && *m_token.m_data.ident == m_vm->propertyNames->of, "Expected either 'in' or 'of' in enumeration syntax");
831         isOfEnumeration = true;
832         next();
833     }
834     TreeExpression expr = parseExpression(context);
835     failIfFalse(expr, "Cannot parse subject for-", isOfEnumeration ? "of" : "in", " statement");
836     JSTextPosition exprEnd = lastTokenEndPosition();
837     int endLine = tokenLine();
838     
839     handleProductionOrFail(CLOSEPAREN, ")", "end", (isOfEnumeration ? "for-of header" : "for-in header"));
840     const Identifier* unused = 0;
841     startLoop();
842     TreeStatement statement = parseStatement(context, unused);
843     endLoop();
844     failIfFalse(statement, "Expected a statement as the body of a for-", isOfEnumeration ? "of" : "in", "loop");
845     if (pattern) {
846         ASSERT(!decls);
847         if (isOfEnumeration)
848             return context.createForOfLoop(location, pattern, expr, statement, declsStart, declsEnd, exprEnd, startLine, endLine);
849         return context.createForInLoop(location, pattern, expr, statement, declsStart, declsEnd, exprEnd, startLine, endLine);
850     }
851     if (isOfEnumeration)
852         return context.createForOfLoop(location, decls, expr, statement, declsStart, declsEnd, exprEnd, startLine, endLine);
853     return context.createForInLoop(location, decls, expr, statement, declsStart, declsEnd, exprEnd, startLine, endLine);
854 }
855
856 template <typename LexerType>
857 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseBreakStatement(TreeBuilder& context)
858 {
859     ASSERT(match(BREAK));
860     JSTokenLocation location(tokenLocation());
861     JSTextPosition start = tokenStartPosition();
862     JSTextPosition end = tokenEndPosition();
863     next();
864     
865     if (autoSemiColon()) {
866         semanticFailIfFalse(breakIsValid(), "'break' is only valid inside a switch or loop statement");
867         return context.createBreakStatement(location, &m_vm->propertyNames->nullIdentifier, start, end);
868     }
869     matchOrFail(IDENT, "Expected an identifier as the target for a break statement");
870     const Identifier* ident = m_token.m_data.ident;
871     semanticFailIfFalse(getLabel(ident), "Cannot use the undeclared label '", ident->impl(), "'");
872     end = tokenEndPosition();
873     next();
874     failIfFalse(autoSemiColon(), "Expected a ';' following a targeted break statement");
875     return context.createBreakStatement(location, ident, start, end);
876 }
877
878 template <typename LexerType>
879 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseContinueStatement(TreeBuilder& context)
880 {
881     ASSERT(match(CONTINUE));
882     JSTokenLocation location(tokenLocation());
883     JSTextPosition start = tokenStartPosition();
884     JSTextPosition end = tokenEndPosition();
885     next();
886     
887     if (autoSemiColon()) {
888         semanticFailIfFalse(continueIsValid(), "'continue' is only valid inside a loop statement");
889         return context.createContinueStatement(location, &m_vm->propertyNames->nullIdentifier, start, end);
890     }
891     matchOrFail(IDENT, "Expected an identifier as the target for a continue statement");
892     const Identifier* ident = m_token.m_data.ident;
893     ScopeLabelInfo* label = getLabel(ident);
894     semanticFailIfFalse(label, "Cannot use the undeclared label '", ident->impl(), "'");
895     semanticFailIfFalse(label->m_isLoop, "Cannot continue to the label '", ident->impl(), "' as it is not targeting a loop");
896     end = tokenEndPosition();
897     next();
898     failIfFalse(autoSemiColon(), "Expected a ';' following a targeted continue statement");
899     return context.createContinueStatement(location, ident, start, end);
900 }
901
902 template <typename LexerType>
903 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseReturnStatement(TreeBuilder& context)
904 {
905     ASSERT(match(RETURN));
906     JSTokenLocation location(tokenLocation());
907     semanticFailIfFalse(currentScope()->isFunction(), "Return statements are only valid inside functions");
908     JSTextPosition start = tokenStartPosition();
909     JSTextPosition end = tokenEndPosition();
910     next();
911     // We do the auto semicolon check before attempting to parse expression
912     // as we need to ensure the a line break after the return correctly terminates
913     // the statement
914     if (match(SEMICOLON))
915         end = tokenEndPosition();
916
917     if (autoSemiColon())
918         return context.createReturnStatement(location, 0, start, end);
919     TreeExpression expr = parseExpression(context);
920     failIfFalse(expr, "Cannot parse the return expression");
921     end = lastTokenEndPosition();
922     if (match(SEMICOLON))
923         end  = tokenEndPosition();
924     if (!autoSemiColon())
925         failWithMessage("Expected a ';' following a return statement");
926     return context.createReturnStatement(location, expr, start, end);
927 }
928
929 template <typename LexerType>
930 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseThrowStatement(TreeBuilder& context)
931 {
932     ASSERT(match(THROW));
933     JSTokenLocation location(tokenLocation());
934     JSTextPosition start = tokenStartPosition();
935     next();
936     failIfTrue(match(SEMICOLON), "Expected expression after 'throw'");
937     semanticFailIfTrue(autoSemiColon(), "Cannot have a newline after 'throw'");
938     
939     TreeExpression expr = parseExpression(context);
940     failIfFalse(expr, "Cannot parse expression for throw statement");
941     JSTextPosition end = lastTokenEndPosition();
942     failIfFalse(autoSemiColon(), "Expected a ';' after a throw statement");
943     
944     return context.createThrowStatement(location, expr, start, end);
945 }
946
947 template <typename LexerType>
948 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseWithStatement(TreeBuilder& context)
949 {
950     ASSERT(match(WITH));
951     JSTokenLocation location(tokenLocation());
952     semanticFailIfTrue(strictMode(), "'with' statements are not valid in strict mode");
953     currentScope()->setNeedsFullActivation();
954     int startLine = tokenLine();
955     next();
956
957     handleProductionOrFail(OPENPAREN, "(", "start", "subject of a 'with' statement");
958     int start = tokenStart();
959     TreeExpression expr = parseExpression(context);
960     failIfFalse(expr, "Cannot parse 'with' subject expression");
961     JSTextPosition end = lastTokenEndPosition();
962     int endLine = tokenLine();
963     handleProductionOrFail(CLOSEPAREN, ")", "start", "subject of a 'with' statement");
964     const Identifier* unused = 0;
965     TreeStatement statement = parseStatement(context, unused);
966     failIfFalse(statement, "A 'with' statement must have a body");
967     
968     return context.createWithStatement(location, expr, statement, start, end, startLine, endLine);
969 }
970
971 template <typename LexerType>
972 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseSwitchStatement(TreeBuilder& context)
973 {
974     ASSERT(match(SWITCH));
975     JSTokenLocation location(tokenLocation());
976     int startLine = tokenLine();
977     next();
978     handleProductionOrFail(OPENPAREN, "(", "start", "subject of a 'switch'");
979     TreeExpression expr = parseExpression(context);
980     failIfFalse(expr, "Cannot parse switch subject expression");
981     int endLine = tokenLine();
982     
983     handleProductionOrFail(CLOSEPAREN, ")", "end", "subject of a 'switch'");
984     handleProductionOrFail(OPENBRACE, "{", "start", "body of a 'switch'");
985     startSwitch();
986     TreeClauseList firstClauses = parseSwitchClauses(context);
987     propagateError();
988     
989     TreeClause defaultClause = parseSwitchDefaultClause(context);
990     propagateError();
991     
992     TreeClauseList secondClauses = parseSwitchClauses(context);
993     propagateError();
994     endSwitch();
995     handleProductionOrFail(CLOSEBRACE, "}", "end", "body of a 'switch'");
996     
997     return context.createSwitchStatement(location, expr, firstClauses, defaultClause, secondClauses, startLine, endLine);
998     
999 }
1000
1001 template <typename LexerType>
1002 template <class TreeBuilder> TreeClauseList Parser<LexerType>::parseSwitchClauses(TreeBuilder& context)
1003 {
1004     if (!match(CASE))
1005         return 0;
1006     unsigned startOffset = tokenStart();
1007     next();
1008     TreeExpression condition = parseExpression(context);
1009     failIfFalse(condition, "Cannot parse switch clause");
1010     consumeOrFail(COLON, "Expected a ':' after switch clause expression");
1011     TreeSourceElements statements = parseSourceElements(context, DontCheckForStrictMode);
1012     failIfFalse(statements, "Cannot parse the body of a switch clause");
1013     TreeClause clause = context.createClause(condition, statements);
1014     context.setStartOffset(clause, startOffset);
1015     TreeClauseList clauseList = context.createClauseList(clause);
1016     TreeClauseList tail = clauseList;
1017     
1018     while (match(CASE)) {
1019         startOffset = tokenStart();
1020         next();
1021         TreeExpression condition = parseExpression(context);
1022         failIfFalse(condition, "Cannot parse switch case expression");
1023         consumeOrFail(COLON, "Expected a ':' after switch clause expression");
1024         TreeSourceElements statements = parseSourceElements(context, DontCheckForStrictMode);
1025         failIfFalse(statements, "Cannot parse the body of a switch clause");
1026         clause = context.createClause(condition, statements);
1027         context.setStartOffset(clause, startOffset);
1028         tail = context.createClauseList(tail, clause);
1029     }
1030     return clauseList;
1031 }
1032
1033 template <typename LexerType>
1034 template <class TreeBuilder> TreeClause Parser<LexerType>::parseSwitchDefaultClause(TreeBuilder& context)
1035 {
1036     if (!match(DEFAULT))
1037         return 0;
1038     unsigned startOffset = tokenStart();
1039     next();
1040     consumeOrFail(COLON, "Expected a ':' after switch default clause");
1041     TreeSourceElements statements = parseSourceElements(context, DontCheckForStrictMode);
1042     failIfFalse(statements, "Cannot parse the body of a switch default clause");
1043     TreeClause result = context.createClause(0, statements);
1044     context.setStartOffset(result, startOffset);
1045     return result;
1046 }
1047
1048 template <typename LexerType>
1049 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseTryStatement(TreeBuilder& context)
1050 {
1051     ASSERT(match(TRY));
1052     JSTokenLocation location(tokenLocation());
1053     TreeStatement tryBlock = 0;
1054     const Identifier* ident = &m_vm->propertyNames->nullIdentifier;
1055     TreeStatement catchBlock = 0;
1056     TreeStatement finallyBlock = 0;
1057     int firstLine = tokenLine();
1058     next();
1059     matchOrFail(OPENBRACE, "Expected a block statement as body of a try statement");
1060     
1061     tryBlock = parseBlockStatement(context);
1062     failIfFalse(tryBlock, "Cannot parse the body of try block");
1063     int lastLine = m_lastTokenEndPosition.line;
1064     
1065     if (match(CATCH)) {
1066         currentScope()->setNeedsFullActivation();
1067         next();
1068         
1069         handleProductionOrFail(OPENPAREN, "(", "start", "'catch' target");
1070         if (!match(IDENT)) {
1071             semanticFailureDueToKeyword("catch variable name");
1072             failWithMessage("Expected identifier name as catch target");
1073         }
1074         ident = m_token.m_data.ident;
1075         next();
1076         AutoPopScopeRef catchScope(this, pushScope());
1077         failIfFalseIfStrict(declareVariable(ident), "Cannot declare a catch variable named '", ident->impl(), "' in strict mode");
1078         catchScope->preventNewDecls();
1079         handleProductionOrFail(CLOSEPAREN, ")", "end", "'catch' target");
1080         matchOrFail(OPENBRACE, "Expected exception handler to be a block statement");
1081         catchBlock = parseBlockStatement(context);
1082         failIfFalse(catchBlock, "Unable to parse 'catch' block");
1083         failIfFalse(popScope(catchScope, TreeBuilder::NeedsFreeVariableInfo), "Parse error");
1084     }
1085     
1086     if (match(FINALLY)) {
1087         next();
1088         matchOrFail(OPENBRACE, "Expected block statement for finally body");
1089         finallyBlock = parseBlockStatement(context);
1090         failIfFalse(finallyBlock, "Cannot parse finally body");
1091     }
1092     failIfFalse(catchBlock || finallyBlock, "Try statements must have at least a catch or finally block");
1093     return context.createTryStatement(location, tryBlock, ident, catchBlock, finallyBlock, firstLine, lastLine);
1094 }
1095
1096 template <typename LexerType>
1097 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseDebuggerStatement(TreeBuilder& context)
1098 {
1099     ASSERT(match(DEBUGGER));
1100     JSTokenLocation location(tokenLocation());
1101     int startLine = tokenLine();
1102     int endLine = startLine;
1103     next();
1104     if (match(SEMICOLON))
1105         startLine = tokenLine();
1106     failIfFalse(autoSemiColon(), "Debugger keyword must be followed by a ';'");
1107     return context.createDebugger(location, startLine, endLine);
1108 }
1109
1110 template <typename LexerType>
1111 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseBlockStatement(TreeBuilder& context)
1112 {
1113     ASSERT(match(OPENBRACE));
1114     JSTokenLocation location(tokenLocation());
1115     int start = tokenLine();
1116     next();
1117     if (match(CLOSEBRACE)) {
1118         unsigned endOffset = m_lexer->currentOffset();
1119         next();
1120         TreeStatement result = context.createBlockStatement(location, 0, start, m_lastTokenEndPosition.line);
1121         context.setEndOffset(result, endOffset);
1122         return result;
1123     }
1124     TreeSourceElements subtree = parseSourceElements(context, DontCheckForStrictMode);
1125     failIfFalse(subtree, "Cannot parse the body of the block statement");
1126     matchOrFail(CLOSEBRACE, "Expected a closing '}' at the end of a block statement");
1127     unsigned endOffset = m_lexer->currentOffset();
1128     next();
1129     TreeStatement result = context.createBlockStatement(location, subtree, start, m_lastTokenEndPosition.line);
1130     context.setEndOffset(result, endOffset);
1131     return result;
1132 }
1133
1134 template <typename LexerType>
1135 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseStatement(TreeBuilder& context, const Identifier*& directive, unsigned* directiveLiteralLength)
1136 {
1137     DepthManager statementDepth(&m_statementDepth);
1138     m_statementDepth++;
1139     directive = 0;
1140     int nonTrivialExpressionCount = 0;
1141     failIfStackOverflow();
1142     TreeStatement result = 0;
1143     switch (m_token.m_type) {
1144     case OPENBRACE:
1145         result = parseBlockStatement(context);
1146         break;
1147     case VAR:
1148         result = parseVarDeclaration(context);
1149         break;
1150     case CONSTTOKEN:
1151         result = parseConstDeclaration(context);
1152         break;
1153     case FUNCTION:
1154         failIfFalseIfStrict(m_statementDepth == 1, "Strict mode does not allow function declarations in a lexically nested statement");
1155         result = parseFunctionDeclaration(context);
1156         break;
1157     case SEMICOLON: {
1158         JSTokenLocation location(tokenLocation());
1159         next();
1160         result = context.createEmptyStatement(location);
1161         break;
1162     }
1163     case IF:
1164         result = parseIfStatement(context);
1165         break;
1166     case DO:
1167         result = parseDoWhileStatement(context);
1168         break;
1169     case WHILE:
1170         result = parseWhileStatement(context);
1171         break;
1172     case FOR:
1173         result = parseForStatement(context);
1174         break;
1175     case CONTINUE:
1176         result = parseContinueStatement(context);
1177         break;
1178     case BREAK:
1179         result = parseBreakStatement(context);
1180         break;
1181     case RETURN:
1182         result = parseReturnStatement(context);
1183         break;
1184     case WITH:
1185         result = parseWithStatement(context);
1186         break;
1187     case SWITCH:
1188         result = parseSwitchStatement(context);
1189         break;
1190     case THROW:
1191         result = parseThrowStatement(context);
1192         break;
1193     case TRY:
1194         result = parseTryStatement(context);
1195         break;
1196     case DEBUGGER:
1197         result = parseDebuggerStatement(context);
1198         break;
1199     case EOFTOK:
1200     case CASE:
1201     case CLOSEBRACE:
1202     case DEFAULT:
1203         // These tokens imply the end of a set of source elements
1204         return 0;
1205     case IDENT:
1206         result = parseExpressionOrLabelStatement(context);
1207         break;
1208     case STRING:
1209         directive = m_token.m_data.ident;
1210         if (directiveLiteralLength)
1211             *directiveLiteralLength = m_token.m_location.endOffset - m_token.m_location.startOffset;
1212         nonTrivialExpressionCount = m_nonTrivialExpressionCount;
1213         FALLTHROUGH;
1214     default:
1215         TreeStatement exprStatement = parseExpressionStatement(context);
1216         if (directive && nonTrivialExpressionCount != m_nonTrivialExpressionCount)
1217             directive = 0;
1218         result = exprStatement;
1219         break;
1220     }
1221
1222     if (result)
1223         context.setEndOffset(result, m_lastTokenEndPosition.offset);
1224     return result;
1225 }
1226
1227 template <typename LexerType>
1228 template <class TreeBuilder> TreeFormalParameterList Parser<LexerType>::parseFormalParameters(TreeBuilder& context)
1229 {
1230     auto parameter = parseDeconstructionPattern(context, DeconstructToParameters);
1231     failIfFalse(parameter, "Cannot parse parameter pattern");
1232     TreeFormalParameterList list = context.createFormalParameterList(parameter);
1233     TreeFormalParameterList tail = list;
1234     while (consume(COMMA)) {
1235         parameter = parseDeconstructionPattern(context, DeconstructToParameters);
1236         failIfFalse(parameter, "Cannot parse parameter pattern");
1237         tail = context.createFormalParameterList(tail, parameter);
1238     }
1239     return list;
1240 }
1241
1242 template <typename LexerType>
1243 template <class TreeBuilder> TreeFunctionBody Parser<LexerType>::parseFunctionBody(TreeBuilder& context)
1244 {
1245     JSTokenLocation startLocation(tokenLocation());
1246     unsigned startColumn = tokenColumn();
1247     next();
1248
1249     if (match(CLOSEBRACE)) {
1250         unsigned endColumn = tokenColumn();
1251         return context.createFunctionBody(startLocation, tokenLocation(), startColumn, endColumn, strictMode());
1252     }
1253     DepthManager statementDepth(&m_statementDepth);
1254     m_statementDepth = 0;
1255     typename TreeBuilder::FunctionBodyBuilder bodyBuilder(const_cast<VM*>(m_vm), m_lexer.get());
1256     failIfFalse(parseSourceElements(bodyBuilder, CheckForStrictMode), "Cannot parse body of this function");
1257     unsigned endColumn = tokenColumn();
1258     return context.createFunctionBody(startLocation, tokenLocation(), startColumn, endColumn, strictMode());
1259 }
1260
1261 static const char* stringForFunctionMode(FunctionParseMode mode)
1262 {
1263     switch (mode) {
1264     case GetterMode:
1265         return "getter";
1266     case SetterMode:
1267         return "setter";
1268     case FunctionMode:
1269         return "function";
1270     }
1271     RELEASE_ASSERT_NOT_REACHED();
1272     return nullptr;
1273 }
1274
1275 template <typename LexerType>
1276 template <class TreeBuilder> bool Parser<LexerType>::parseFunctionInfo(TreeBuilder& context, FunctionRequirements requirements, FunctionParseMode mode, bool nameIsInContainingScope, ParserFunctionInfo<TreeBuilder>& info)
1277 {
1278     AutoPopScopeRef functionScope(this, pushScope());
1279     functionScope->setIsFunction();
1280     int functionNameStart = m_token.m_location.startOffset;
1281     const Identifier* lastFunctionName = m_lastFunctionName;
1282     m_lastFunctionName = nullptr;
1283     if (match(IDENT)) {
1284         info.name = m_token.m_data.ident;
1285         m_lastFunctionName = info.name;
1286         next();
1287         if (!nameIsInContainingScope)
1288             failIfFalseIfStrict(functionScope->declareVariable(info.name), "'", info.name->impl(), "' is not a valid ", stringForFunctionMode(mode), " name in strict mode");
1289     } else if (requirements == FunctionNeedsName) {
1290         if (match(OPENPAREN) && mode == FunctionMode)
1291             semanticFail("Function statements must have a name");
1292         semanticFailureDueToKeyword(stringForFunctionMode(mode), " name");
1293         failDueToUnexpectedToken();
1294         return false;
1295     }
1296     if (!consume(OPENPAREN)) {
1297         semanticFailureDueToKeyword(stringForFunctionMode(mode), " name");
1298         failWithMessage("Expected an opening '(' before a ", stringForFunctionMode(mode), "'s parameter list");
1299     }
1300     if (!match(CLOSEPAREN)) {
1301         info.parameters = parseFormalParameters(context);
1302         failIfFalse(info.parameters, "Cannot parse parameters for this ", stringForFunctionMode(mode));
1303     }
1304     consumeOrFail(CLOSEPAREN, "Expected a ')' or a ',' after a parameter declaration");
1305     matchOrFail(OPENBRACE, "Expected an opening '{' at the start of a ", stringForFunctionMode(mode), " body");
1306     
1307     info.openBraceOffset = m_token.m_data.offset;
1308     info.bodyStartLine = tokenLine();
1309     info.bodyStartColumn = m_token.m_data.offset - m_token.m_data.lineStartOffset;
1310     JSTokenLocation startLocation(tokenLocation());
1311     
1312     // If we know about this function already, we can use the cached info and skip the parser to the end of the function.
1313     if (const SourceProviderCacheItem* cachedInfo = TreeBuilder::CanUseFunctionCache ? findCachedFunctionInfo(info.openBraceOffset) : 0) {
1314         // If we're in a strict context, the cached function info must say it was strict too.
1315         ASSERT(!strictMode() || cachedInfo->strictMode);
1316         JSTokenLocation endLocation;
1317
1318         endLocation.line = cachedInfo->closeBraceLine;
1319         endLocation.startOffset = cachedInfo->closeBraceOffset;
1320         endLocation.lineStartOffset = cachedInfo->closeBraceLineStartOffset;
1321
1322         bool endColumnIsOnStartLine = (endLocation.line == info.bodyStartLine);
1323         ASSERT(endLocation.startOffset >= endLocation.lineStartOffset);
1324         unsigned bodyEndColumn = endColumnIsOnStartLine ?
1325             endLocation.startOffset - m_token.m_data.lineStartOffset :
1326             endLocation.startOffset - endLocation.lineStartOffset;
1327         unsigned currentLineStartOffset = m_token.m_location.lineStartOffset;
1328
1329         info.body = context.createFunctionBody(startLocation, endLocation, info.bodyStartColumn, bodyEndColumn, cachedInfo->strictMode);
1330         
1331         functionScope->restoreFromSourceProviderCache(cachedInfo);
1332         failIfFalse(popScope(functionScope, TreeBuilder::NeedsFreeVariableInfo), "Parser error");
1333         
1334         info.closeBraceOffset = cachedInfo->closeBraceOffset;
1335
1336         context.setFunctionNameStart(info.body, functionNameStart);
1337         m_token = cachedInfo->closeBraceToken();
1338         if (endColumnIsOnStartLine)
1339             m_token.m_location.lineStartOffset = currentLineStartOffset;
1340
1341         m_lexer->setOffset(m_token.m_location.endOffset, m_token.m_location.lineStartOffset);
1342         m_lexer->setLineNumber(m_token.m_location.line);
1343
1344         context.setEndOffset(info.body, m_lexer->currentOffset());
1345         
1346         next();
1347         info.bodyEndLine = m_lastTokenEndPosition.line;
1348         return true;
1349     }
1350     m_lastFunctionName = lastFunctionName;
1351     ParserState oldState = saveState();
1352     info.body = parseFunctionBody(context);
1353     restoreState(oldState);
1354     failIfFalse(info.body, "Cannot parse the body of this ", stringForFunctionMode(mode));
1355     context.setEndOffset(info.body, m_lexer->currentOffset());
1356     if (functionScope->strictMode() && info.name) {
1357         RELEASE_ASSERT(mode == FunctionMode);
1358         semanticFailIfTrue(m_vm->propertyNames->arguments == *info.name, "'", info.name->impl(), "' is not a valid function name in strict mode");
1359         semanticFailIfTrue(m_vm->propertyNames->eval == *info.name, "'", info.name->impl(), "' is not a valid function name in strict mode");
1360     }
1361     info.closeBraceOffset = m_token.m_data.offset;
1362     unsigned closeBraceLine = m_token.m_data.line;
1363     unsigned closeBraceLineStartOffset = m_token.m_data.lineStartOffset;
1364     
1365     // Cache the tokenizer state and the function scope the first time the function is parsed.
1366     // Any future reparsing can then skip the function.
1367     static const int minimumFunctionLengthToCache = 16;
1368     std::unique_ptr<SourceProviderCacheItem> newInfo;
1369     int functionLength = info.closeBraceOffset - info.openBraceOffset;
1370     if (TreeBuilder::CanUseFunctionCache && m_functionCache && functionLength > minimumFunctionLengthToCache) {
1371         SourceProviderCacheItemCreationParameters parameters;
1372         parameters.functionNameStart = functionNameStart;
1373         parameters.closeBraceLine = closeBraceLine;
1374         parameters.closeBraceOffset = info.closeBraceOffset;
1375         parameters.closeBraceLineStartOffset = closeBraceLineStartOffset;
1376         functionScope->fillParametersForSourceProviderCache(parameters);
1377         newInfo = SourceProviderCacheItem::create(parameters);
1378
1379     }
1380     context.setFunctionNameStart(info.body, functionNameStart);
1381     
1382     failIfFalse(popScope(functionScope, TreeBuilder::NeedsFreeVariableInfo), "Parser error");
1383     matchOrFail(CLOSEBRACE, "Expected a closing '}' after a ", stringForFunctionMode(mode), " body");
1384     
1385     if (newInfo)
1386         m_functionCache->add(info.openBraceOffset, WTF::move(newInfo));
1387     
1388     next();
1389     info.bodyEndLine = m_lastTokenEndPosition.line;
1390     return true;
1391 }
1392
1393 template <typename LexerType>
1394 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseFunctionDeclaration(TreeBuilder& context)
1395 {
1396     ASSERT(match(FUNCTION));
1397     JSTokenLocation location(tokenLocation());
1398     unsigned functionKeywordStart = tokenStart();
1399     next();
1400     ParserFunctionInfo<TreeBuilder> info;
1401     failIfFalse((parseFunctionInfo(context, FunctionNeedsName, FunctionMode, true, info)), "Cannot parse this function");
1402     failIfFalse(info.name, "Function statements must have a name");
1403     failIfFalseIfStrict(declareVariable(info.name), "Cannot declare a function named '", info.name->impl(), "' in strict mode");
1404     return context.createFuncDeclStatement(location, info, functionKeywordStart);
1405 }
1406
1407 struct LabelInfo {
1408     LabelInfo(const Identifier* ident, const JSTextPosition& start, const JSTextPosition& end)
1409     : m_ident(ident)
1410     , m_start(start)
1411     , m_end(end)
1412     {
1413     }
1414     
1415     const Identifier* m_ident;
1416     JSTextPosition m_start;
1417     JSTextPosition m_end;
1418 };
1419
1420 template <typename LexerType>
1421 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseExpressionOrLabelStatement(TreeBuilder& context)
1422 {
1423     
1424     /* Expression and Label statements are ambiguous at LL(1), so we have a
1425      * special case that looks for a colon as the next character in the input.
1426      */
1427     Vector<LabelInfo> labels;
1428     JSTokenLocation location;
1429     do {
1430         JSTextPosition start = tokenStartPosition();
1431         location = tokenLocation();
1432         if (!nextTokenIsColon()) {
1433             // If we hit this path we're making a expression statement, which
1434             // by definition can't make use of continue/break so we can just
1435             // ignore any labels we might have accumulated.
1436             TreeExpression expression = parseExpression(context);
1437             failIfFalse(expression, "Cannot parse expression statement");
1438             if (!autoSemiColon())
1439                 failDueToUnexpectedToken();
1440             return context.createExprStatement(location, expression, start, m_lastTokenEndPosition.line);
1441         }
1442         const Identifier* ident = m_token.m_data.ident;
1443         JSTextPosition end = tokenEndPosition();
1444         next();
1445         consumeOrFail(COLON, "Labels must be followed by a ':'");
1446         if (!m_syntaxAlreadyValidated) {
1447             // This is O(N^2) over the current list of consecutive labels, but I
1448             // have never seen more than one label in a row in the real world.
1449             for (size_t i = 0; i < labels.size(); i++)
1450                 failIfTrue(ident->impl() == labels[i].m_ident->impl(), "Attempted to redeclare the label '", ident->impl(), "'");
1451             failIfTrue(getLabel(ident), "Cannot find scope for the label '", ident->impl(), "'");
1452             labels.append(LabelInfo(ident, start, end));
1453         }
1454     } while (match(IDENT));
1455     bool isLoop = false;
1456     switch (m_token.m_type) {
1457     case FOR:
1458     case WHILE:
1459     case DO:
1460         isLoop = true;
1461         break;
1462         
1463     default:
1464         break;
1465     }
1466     const Identifier* unused = 0;
1467     if (!m_syntaxAlreadyValidated) {
1468         for (size_t i = 0; i < labels.size(); i++)
1469             pushLabel(labels[i].m_ident, isLoop);
1470     }
1471     TreeStatement statement = parseStatement(context, unused);
1472     if (!m_syntaxAlreadyValidated) {
1473         for (size_t i = 0; i < labels.size(); i++)
1474             popLabel();
1475     }
1476     failIfFalse(statement, "Cannot parse statement");
1477     for (size_t i = 0; i < labels.size(); i++) {
1478         const LabelInfo& info = labels[labels.size() - i - 1];
1479         statement = context.createLabelStatement(location, info.m_ident, statement, info.m_start, info.m_end);
1480     }
1481     return statement;
1482 }
1483
1484 template <typename LexerType>
1485 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseExpressionStatement(TreeBuilder& context)
1486 {
1487     JSTextPosition start = tokenStartPosition();
1488     JSTokenLocation location(tokenLocation());
1489     TreeExpression expression = parseExpression(context);
1490     failIfFalse(expression, "Cannot parse expression statement");
1491     failIfFalse(autoSemiColon(), "Parse error");
1492     return context.createExprStatement(location, expression, start, m_lastTokenEndPosition.line);
1493 }
1494
1495 template <typename LexerType>
1496 template <class TreeBuilder> TreeStatement Parser<LexerType>::parseIfStatement(TreeBuilder& context)
1497 {
1498     ASSERT(match(IF));
1499     JSTokenLocation ifLocation(tokenLocation());
1500     int start = tokenLine();
1501     next();
1502     handleProductionOrFail(OPENPAREN, "(", "start", "'if' condition");
1503
1504     TreeExpression condition = parseExpression(context);
1505     failIfFalse(condition, "Expected a expression as the condition for an if statement");
1506     int end = tokenLine();
1507     handleProductionOrFail(CLOSEPAREN, ")", "end", "'if' condition");
1508
1509     const Identifier* unused = 0;
1510     TreeStatement trueBlock = parseStatement(context, unused);
1511     failIfFalse(trueBlock, "Expected a statement as the body of an if block");
1512
1513     if (!match(ELSE))
1514         return context.createIfStatement(ifLocation, condition, trueBlock, 0, start, end);
1515
1516     Vector<TreeExpression> exprStack;
1517     Vector<std::pair<int, int>> posStack;
1518     Vector<JSTokenLocation> tokenLocationStack;
1519     Vector<TreeStatement> statementStack;
1520     bool trailingElse = false;
1521     do {
1522         JSTokenLocation tempLocation = tokenLocation();
1523         next();
1524         if (!match(IF)) {
1525             const Identifier* unused = 0;
1526             TreeStatement block = parseStatement(context, unused);
1527             failIfFalse(block, "Expected a statement as the body of an else block");
1528             statementStack.append(block);
1529             trailingElse = true;
1530             break;
1531         }
1532         int innerStart = tokenLine();
1533         next();
1534         
1535         handleProductionOrFail(OPENPAREN, "(", "start", "'if' condition");
1536
1537         TreeExpression innerCondition = parseExpression(context);
1538         failIfFalse(innerCondition, "Expected a expression as the condition for an if statement");
1539         int innerEnd = tokenLine();
1540         handleProductionOrFail(CLOSEPAREN, ")", "end", "'if' condition");
1541         const Identifier* unused = 0;
1542         TreeStatement innerTrueBlock = parseStatement(context, unused);
1543         failIfFalse(innerTrueBlock, "Expected a statement as the body of an if block");
1544         tokenLocationStack.append(tempLocation);
1545         exprStack.append(innerCondition);
1546         posStack.append(std::make_pair(innerStart, innerEnd));
1547         statementStack.append(innerTrueBlock);
1548     } while (match(ELSE));
1549
1550     if (!trailingElse) {
1551         TreeExpression condition = exprStack.last();
1552         exprStack.removeLast();
1553         TreeStatement trueBlock = statementStack.last();
1554         statementStack.removeLast();
1555         std::pair<int, int> pos = posStack.last();
1556         posStack.removeLast();
1557         JSTokenLocation elseLocation = tokenLocationStack.last();
1558         tokenLocationStack.removeLast();
1559         TreeStatement ifStatement = context.createIfStatement(elseLocation, condition, trueBlock, 0, pos.first, pos.second);
1560         context.setEndOffset(ifStatement, context.endOffset(trueBlock));
1561         statementStack.append(ifStatement);
1562     }
1563
1564     while (!exprStack.isEmpty()) {
1565         TreeExpression condition = exprStack.last();
1566         exprStack.removeLast();
1567         TreeStatement falseBlock = statementStack.last();
1568         statementStack.removeLast();
1569         TreeStatement trueBlock = statementStack.last();
1570         statementStack.removeLast();
1571         std::pair<int, int> pos = posStack.last();
1572         posStack.removeLast();
1573         JSTokenLocation elseLocation = tokenLocationStack.last();
1574         tokenLocationStack.removeLast();
1575         TreeStatement ifStatement = context.createIfStatement(elseLocation, condition, trueBlock, falseBlock, pos.first, pos.second);
1576         context.setEndOffset(ifStatement, context.endOffset(falseBlock));
1577         statementStack.append(ifStatement);
1578     }
1579
1580     return context.createIfStatement(ifLocation, condition, trueBlock, statementStack.last(), start, end);
1581 }
1582
1583 template <typename LexerType>
1584 template <class TreeBuilder> TreeExpression Parser<LexerType>::parseExpression(TreeBuilder& context)
1585 {
1586     failIfStackOverflow();
1587     JSTokenLocation location(tokenLocation());
1588     TreeExpression node = parseAssignmentExpression(context);
1589     failIfFalse(node, "Cannot parse expression");
1590     context.setEndOffset(node, m_lastTokenEndPosition.offset);
1591     if (!match(COMMA))
1592         return node;
1593     next();
1594     m_nonTrivialExpressionCount++;
1595     m_nonLHSCount++;
1596     TreeExpression right = parseAssignmentExpression(context);
1597     failIfFalse(right, "Cannot parse expression in a comma expression");
1598     context.setEndOffset(right, m_lastTokenEndPosition.offset);
1599     typename TreeBuilder::Comma head = context.createCommaExpr(location, node);
1600     typename TreeBuilder::Comma tail = context.appendToCommaExpr(location, head, head, right);
1601     while (match(COMMA)) {
1602         next(TreeBuilder::DontBuildStrings);
1603         right = parseAssignmentExpression(context);
1604         failIfFalse(right, "Cannot parse expression in a comma expression");
1605         context.setEndOffset(right, m_lastTokenEndPosition.offset);
1606         tail = context.appendToCommaExpr(location, head, tail, right);
1607     }
1608     context.setEndOffset(head, m_lastTokenEndPosition.offset);
1609     return head;
1610 }
1611
1612 template <typename LexerType>
1613 template <typename TreeBuilder> TreeExpression Parser<LexerType>::parseAssignmentExpression(TreeBuilder& context)
1614 {
1615     failIfStackOverflow();
1616     JSTextPosition start = tokenStartPosition();
1617     JSTokenLocation location(tokenLocation());
1618     int initialAssignmentCount = m_assignmentCount;
1619     int initialNonLHSCount = m_nonLHSCount;
1620     if (match(OPENBRACE) || match(OPENBRACKET)) {
1621         SavePoint savePoint = createSavePoint();
1622         auto pattern = tryParseDeconstructionPatternExpression(context);
1623         if (pattern && consume(EQUAL)) {
1624             auto rhs = parseAssignmentExpression(context);
1625             if (rhs)
1626                 return context.createDeconstructingAssignment(location, pattern, rhs);
1627         }
1628         restoreSavePoint(savePoint);
1629     }
1630     TreeExpression lhs = parseConditionalExpression(context);
1631     failIfFalse(lhs, "Cannot parse expression");
1632     if (initialNonLHSCount != m_nonLHSCount) {
1633         if (m_token.m_type >= EQUAL && m_token.m_type <= OREQUAL)
1634             semanticFail("Left hand side of operator '", getToken(), "' must be a reference");
1635
1636         return lhs;
1637     }
1638     
1639     int assignmentStack = 0;
1640     Operator op;
1641     bool hadAssignment = false;
1642     while (true) {
1643         switch (m_token.m_type) {
1644         case EQUAL: op = OpEqual; break;
1645         case PLUSEQUAL: op = OpPlusEq; break;
1646         case MINUSEQUAL: op = OpMinusEq; break;
1647         case MULTEQUAL: op = OpMultEq; break;
1648         case DIVEQUAL: op = OpDivEq; break;
1649         case LSHIFTEQUAL: op = OpLShift; break;
1650         case RSHIFTEQUAL: op = OpRShift; break;
1651         case URSHIFTEQUAL: op = OpURShift; break;
1652         case ANDEQUAL: op = OpAndEq; break;
1653         case XOREQUAL: op = OpXOrEq; break;
1654         case OREQUAL: op = OpOrEq; break;
1655         case MODEQUAL: op = OpModEq; break;
1656         default:
1657             goto end;
1658         }
1659         m_nonTrivialExpressionCount++;
1660         hadAssignment = true;
1661         context.assignmentStackAppend(assignmentStack, lhs, start, tokenStartPosition(), m_assignmentCount, op);
1662         start = tokenStartPosition();
1663         m_assignmentCount++;
1664         next(TreeBuilder::DontBuildStrings);
1665         if (strictMode() && m_lastIdentifier && context.isResolve(lhs)) {
1666             failIfTrueIfStrict(m_vm->propertyNames->eval == *m_lastIdentifier, "Cannot modify 'eval' in strict mode");
1667             failIfTrueIfStrict(m_vm->propertyNames->arguments == *m_lastIdentifier, "Cannot modify 'arguments' in strict mode");
1668             declareWrite(m_lastIdentifier);
1669             m_lastIdentifier = 0;
1670         }
1671         lhs = parseAssignmentExpression(context);
1672         failIfFalse(lhs, "Cannot parse the right hand side of an assignment expression");
1673         if (initialNonLHSCount != m_nonLHSCount) {
1674             if (m_token.m_type >= EQUAL && m_token.m_type <= OREQUAL)
1675                 semanticFail("Left hand side of operator '", getToken(), "' must be a reference");
1676             break;
1677         }
1678     }
1679 end:
1680     if (hadAssignment)
1681         m_nonLHSCount++;
1682     
1683     if (!TreeBuilder::CreatesAST)
1684         return lhs;
1685     
1686     while (assignmentStack)
1687         lhs = context.createAssignment(location, assignmentStack, lhs, initialAssignmentCount, m_assignmentCount, lastTokenEndPosition());
1688     
1689     return lhs;
1690 }
1691
1692 template <typename LexerType>
1693 template <class TreeBuilder> TreeExpression Parser<LexerType>::parseConditionalExpression(TreeBuilder& context)
1694 {
1695     JSTokenLocation location(tokenLocation());
1696     TreeExpression cond = parseBinaryExpression(context);
1697     failIfFalse(cond, "Cannot parse expression");
1698     if (!match(QUESTION))
1699         return cond;
1700     m_nonTrivialExpressionCount++;
1701     m_nonLHSCount++;
1702     next(TreeBuilder::DontBuildStrings);
1703     TreeExpression lhs = parseAssignmentExpression(context);
1704     failIfFalse(lhs, "Cannot parse left hand side of ternary operator");
1705     context.setEndOffset(lhs, m_lastTokenEndPosition.offset);
1706     consumeOrFailWithFlags(COLON, TreeBuilder::DontBuildStrings, "Expected ':' in ternary operator");
1707     
1708     TreeExpression rhs = parseAssignmentExpression(context);
1709     failIfFalse(rhs, "Cannot parse right hand side of ternary operator");
1710     context.setEndOffset(rhs, m_lastTokenEndPosition.offset);
1711     return context.createConditionalExpr(location, cond, lhs, rhs);
1712 }
1713
1714 ALWAYS_INLINE static bool isUnaryOp(JSTokenType token)
1715 {
1716     return token & UnaryOpTokenFlag;
1717 }
1718
1719 template <typename LexerType>
1720 int Parser<LexerType>::isBinaryOperator(JSTokenType token)
1721 {
1722     if (m_allowsIn)
1723         return token & (BinaryOpTokenPrecedenceMask << BinaryOpTokenAllowsInPrecedenceAdditionalShift);
1724     return token & BinaryOpTokenPrecedenceMask;
1725 }
1726
1727 template <typename LexerType>
1728 template <class TreeBuilder> TreeExpression Parser<LexerType>::parseBinaryExpression(TreeBuilder& context)
1729 {
1730     
1731     int operandStackDepth = 0;
1732     int operatorStackDepth = 0;
1733     typename TreeBuilder::BinaryExprContext binaryExprContext(context);
1734     JSTokenLocation location(tokenLocation());
1735     while (true) {
1736         JSTextPosition exprStart = tokenStartPosition();
1737         int initialAssignments = m_assignmentCount;
1738         TreeExpression current = parseUnaryExpression(context);
1739         failIfFalse(current, "Cannot parse expression");
1740         
1741         context.appendBinaryExpressionInfo(operandStackDepth, current, exprStart, lastTokenEndPosition(), lastTokenEndPosition(), initialAssignments != m_assignmentCount);
1742         int precedence = isBinaryOperator(m_token.m_type);
1743         if (!precedence)
1744             break;
1745         m_nonTrivialExpressionCount++;
1746         m_nonLHSCount++;
1747         int operatorToken = m_token.m_type;
1748         next(TreeBuilder::DontBuildStrings);
1749         
1750         while (operatorStackDepth &&  context.operatorStackHasHigherPrecedence(operatorStackDepth, precedence)) {
1751             ASSERT(operandStackDepth > 1);
1752             
1753             typename TreeBuilder::BinaryOperand rhs = context.getFromOperandStack(-1);
1754             typename TreeBuilder::BinaryOperand lhs = context.getFromOperandStack(-2);
1755             context.shrinkOperandStackBy(operandStackDepth, 2);
1756             context.appendBinaryOperation(location, operandStackDepth, operatorStackDepth, lhs, rhs);
1757             context.operatorStackPop(operatorStackDepth);
1758         }
1759         context.operatorStackAppend(operatorStackDepth, operatorToken, precedence);
1760     }
1761     while (operatorStackDepth) {
1762         ASSERT(operandStackDepth > 1);
1763         
1764         typename TreeBuilder::BinaryOperand rhs = context.getFromOperandStack(-1);
1765         typename TreeBuilder::BinaryOperand lhs = context.getFromOperandStack(-2);
1766         context.shrinkOperandStackBy(operandStackDepth, 2);
1767         context.appendBinaryOperation(location, operandStackDepth, operatorStackDepth, lhs, rhs);
1768         context.operatorStackPop(operatorStackDepth);
1769     }
1770     return context.popOperandStack(operandStackDepth);
1771 }
1772
1773 template <typename LexerType>
1774 template <class TreeBuilder> TreeProperty Parser<LexerType>::parseProperty(TreeBuilder& context, bool complete)
1775 {
1776     bool wasIdent = false;
1777     switch (m_token.m_type) {
1778     namedProperty:
1779     case IDENT:
1780         wasIdent = true;
1781         FALLTHROUGH;
1782     case STRING: {
1783         const Identifier* ident = m_token.m_data.ident;
1784         unsigned getterOrSetterStartOffset = tokenStart();
1785         if (complete || (wasIdent && (*ident == m_vm->propertyNames->get || *ident == m_vm->propertyNames->set)))
1786             nextExpectIdentifier(LexerFlagsIgnoreReservedWords);
1787         else
1788             nextExpectIdentifier(LexerFlagsIgnoreReservedWords | TreeBuilder::DontBuildKeywords);
1789         
1790         if (match(COLON)) {
1791             next();
1792             TreeExpression node = parseAssignmentExpression(context);
1793             failIfFalse(node, "Cannot parse expression for property declaration");
1794             context.setEndOffset(node, m_lexer->currentOffset());
1795             return context.createProperty(ident, node, PropertyNode::Constant, complete);
1796         }
1797         failIfFalse(wasIdent, "Expected an identifier as property name");
1798         PropertyNode::Type type;
1799         if (*ident == m_vm->propertyNames->get)
1800             type = PropertyNode::Getter;
1801         else if (*ident == m_vm->propertyNames->set)
1802             type = PropertyNode::Setter;
1803         else
1804             failWithMessage("Expected a ':' following the property name '", ident->impl(), "'");
1805         const Identifier* stringPropertyName = 0;
1806         double numericPropertyName = 0;
1807         if (m_token.m_type == IDENT || m_token.m_type == STRING)
1808             stringPropertyName = m_token.m_data.ident;
1809         else if (m_token.m_type == NUMBER)
1810             numericPropertyName = m_token.m_data.doubleValue;
1811         else
1812             failDueToUnexpectedToken();
1813         JSTokenLocation location(tokenLocation());
1814         next();
1815         ParserFunctionInfo<TreeBuilder> info;
1816         if (type == PropertyNode::Getter) {
1817             failIfFalse(match(OPENPAREN), "Expected a parameter list for getter definition");
1818             failIfFalse((parseFunctionInfo(context, FunctionNoRequirements, GetterMode, false, info)), "Cannot parse getter definition");
1819         } else {
1820             failIfFalse(match(OPENPAREN), "Expected a parameter list for setter definition");
1821             failIfFalse((parseFunctionInfo(context, FunctionNoRequirements, SetterMode, false, info)), "Cannot parse setter definition");
1822         }
1823         if (stringPropertyName)
1824             return context.createGetterOrSetterProperty(location, type, complete, stringPropertyName, info, getterOrSetterStartOffset);
1825         return context.createGetterOrSetterProperty(const_cast<VM*>(m_vm), m_parserArena, location, type, complete, numericPropertyName, info, getterOrSetterStartOffset);
1826     }
1827     case NUMBER: {
1828         double propertyName = m_token.m_data.doubleValue;
1829         next();
1830         consumeOrFail(COLON, "Expected ':' after property name");
1831         TreeExpression node = parseAssignmentExpression(context);
1832         failIfFalse(node, "Cannot parse expression for property declaration");
1833         context.setEndOffset(node, m_lexer->currentOffset());
1834         return context.createProperty(const_cast<VM*>(m_vm), m_parserArena, propertyName, node, PropertyNode::Constant, complete);
1835     }
1836     case OPENBRACKET: {
1837         next();
1838         auto propertyName = parseExpression(context);
1839         failIfFalse(propertyName, "Cannot parse computed property name");
1840         
1841         handleProductionOrFail(CLOSEBRACKET, "]", "end", "computed property name");
1842         consumeOrFail(COLON, "Expected ':' after property name");
1843         TreeExpression node = parseAssignmentExpression(context);
1844         failIfFalse(node, "Cannot parse expression for property declaration");
1845         context.setEndOffset(node, m_lexer->currentOffset());
1846         return context.createProperty(propertyName, node, PropertyNode::Constant, complete);
1847     }
1848     default:
1849         failIfFalse(m_token.m_type & KeywordTokenFlag, "Expected a property name");
1850         goto namedProperty;
1851     }
1852 }
1853
1854 template <typename LexerType>
1855 template <class TreeBuilder> TreeExpression Parser<LexerType>::parseObjectLiteral(TreeBuilder& context)
1856 {
1857     auto savePoint = createSavePoint();
1858     consumeOrFailWithFlags(OPENBRACE, TreeBuilder::DontBuildStrings, "Expected opening '{' at the start of an object literal");
1859     JSTokenLocation location(tokenLocation());
1860
1861     int oldNonLHSCount = m_nonLHSCount;
1862     
1863     if (match(CLOSEBRACE)) {
1864         next();
1865         return context.createObjectLiteral(location);
1866     }
1867     
1868     TreeProperty property = parseProperty(context, false);
1869     failIfFalse(property, "Cannot parse object literal property");
1870     if (!m_syntaxAlreadyValidated && context.getType(property) != PropertyNode::Constant) {
1871         restoreSavePoint(savePoint);
1872         return parseStrictObjectLiteral(context);
1873     }
1874     TreePropertyList propertyList = context.createPropertyList(location, property);
1875     TreePropertyList tail = propertyList;
1876     while (match(COMMA)) {
1877         next(TreeBuilder::DontBuildStrings);
1878         // allow extra comma, see http://bugs.webkit.org/show_bug.cgi?id=5939
1879         if (match(CLOSEBRACE))
1880             break;
1881         JSTokenLocation propertyLocation(tokenLocation());
1882         property = parseProperty(context, false);
1883         failIfFalse(property, "Cannot parse object literal property");
1884         if (!m_syntaxAlreadyValidated && context.getType(property) != PropertyNode::Constant) {
1885             restoreSavePoint(savePoint);
1886             return parseStrictObjectLiteral(context);
1887         }
1888         tail = context.createPropertyList(propertyLocation, property, tail);
1889     }
1890
1891     location = tokenLocation();
1892     handleProductionOrFail(CLOSEBRACE, "}", "end", "object literal");
1893     
1894     m_nonLHSCount = oldNonLHSCount;
1895     
1896     return context.createObjectLiteral(location, propertyList);
1897 }
1898
1899 template <typename LexerType>
1900 template <class TreeBuilder> TreeExpression Parser<LexerType>::parseStrictObjectLiteral(TreeBuilder& context)
1901 {
1902     consumeOrFail(OPENBRACE, "Expected opening '{' at the start of an object literal");
1903     
1904     int oldNonLHSCount = m_nonLHSCount;
1905
1906     JSTokenLocation location(tokenLocation());
1907     if (match(CLOSEBRACE)) {
1908         next();
1909         return context.createObjectLiteral(location);
1910     }
1911     
1912     TreeProperty property = parseProperty(context, true);
1913     failIfFalse(property, "Cannot parse object literal property");
1914     
1915     typedef HashMap<RefPtr<StringImpl>, unsigned, IdentifierRepHash> ObjectValidationMap;
1916     ObjectValidationMap objectValidator;
1917     // Add the first property
1918     if (!m_syntaxAlreadyValidated && context.getName(property))
1919         objectValidator.add(context.getName(property)->impl(), context.getType(property));
1920     
1921     TreePropertyList propertyList = context.createPropertyList(location, property);
1922     TreePropertyList tail = propertyList;
1923     while (match(COMMA)) {
1924         next();
1925         // allow extra comma, see http://bugs.webkit.org/show_bug.cgi?id=5939
1926         if (match(CLOSEBRACE))
1927             break;
1928         JSTokenLocation propertyLocation(tokenLocation());
1929         property = parseProperty(context, true);
1930         failIfFalse(property, "Cannot parse object literal property");
1931         if (!m_syntaxAlreadyValidated && context.getName(property)) {
1932             ObjectValidationMap::AddResult propertyEntry = objectValidator.add(context.getName(property)->impl(), context.getType(property));
1933             if (!propertyEntry.isNewEntry) {
1934                 semanticFailIfTrue(propertyEntry.iterator->value == PropertyNode::Constant, "Attempted to redefine property '", propertyEntry.iterator->key.get(), "'");
1935                 semanticFailIfTrue(context.getType(property) == PropertyNode::Constant, "Attempted to redefine property '", propertyEntry.iterator->key.get(), "'");
1936                 semanticFailIfTrue(context.getType(property) & propertyEntry.iterator->value, "Attempted to redefine property '", propertyEntry.iterator->key.get(), "'");
1937                 propertyEntry.iterator->value |= context.getType(property);
1938             }
1939         }
1940         tail = context.createPropertyList(propertyLocation, property, tail);
1941     }
1942
1943     location = tokenLocation();
1944     handleProductionOrFail(CLOSEBRACE, "}", "end", "object literal");
1945
1946     m_nonLHSCount = oldNonLHSCount;
1947
1948     return context.createObjectLiteral(location, propertyList);
1949 }
1950
1951 template <typename LexerType>
1952 template <class TreeBuilder> TreeExpression Parser<LexerType>::parseArrayLiteral(TreeBuilder& context)
1953 {
1954     consumeOrFailWithFlags(OPENBRACKET, TreeBuilder::DontBuildStrings, "Expected an opening '[' at the beginning of an array literal");
1955     
1956     int oldNonLHSCount = m_nonLHSCount;
1957     
1958     int elisions = 0;
1959     while (match(COMMA)) {
1960         next(TreeBuilder::DontBuildStrings);
1961         elisions++;
1962     }
1963     if (match(CLOSEBRACKET)) {
1964         JSTokenLocation location(tokenLocation());
1965         next(TreeBuilder::DontBuildStrings);
1966         return context.createArray(location, elisions);
1967     }
1968     
1969     TreeExpression elem;
1970     if (UNLIKELY(match(DOTDOTDOT))) {
1971         auto spreadLocation = m_token.m_location;
1972         auto start = m_token.m_startPosition;
1973         auto divot = m_token.m_endPosition;
1974         next();
1975         auto spreadExpr = parseAssignmentExpression(context);
1976         failIfFalse(spreadExpr, "Cannot parse subject of a spread operation");
1977         elem = context.createSpreadExpression(spreadLocation, spreadExpr, start, divot, m_lastTokenEndPosition);
1978     } else
1979         elem = parseAssignmentExpression(context);
1980     failIfFalse(elem, "Cannot parse array literal element");
1981     typename TreeBuilder::ElementList elementList = context.createElementList(elisions, elem);
1982     typename TreeBuilder::ElementList tail = elementList;
1983     elisions = 0;
1984     while (match(COMMA)) {
1985         next(TreeBuilder::DontBuildStrings);
1986         elisions = 0;
1987         
1988         while (match(COMMA)) {
1989             next();
1990             elisions++;
1991         }
1992         
1993         if (match(CLOSEBRACKET)) {
1994             JSTokenLocation location(tokenLocation());
1995             next(TreeBuilder::DontBuildStrings);
1996             return context.createArray(location, elisions, elementList);
1997         }
1998         if (UNLIKELY(match(DOTDOTDOT))) {
1999             auto spreadLocation = m_token.m_location;
2000             auto start = m_token.m_startPosition;
2001             auto divot = m_token.m_endPosition;
2002             next();
2003             TreeExpression elem = parseAssignmentExpression(context);
2004             failIfFalse(elem, "Cannot parse subject of a spread operation");
2005             auto spread = context.createSpreadExpression(spreadLocation, elem, start, divot, m_lastTokenEndPosition);
2006             tail = context.createElementList(tail, elisions, spread);
2007             continue;
2008         }
2009         TreeExpression elem = parseAssignmentExpression(context);
2010         failIfFalse(elem, "Cannot parse array literal element");
2011         tail = context.createElementList(tail, elisions, elem);
2012     }
2013
2014     JSTokenLocation location(tokenLocation());
2015     if (!consume(CLOSEBRACKET)) {
2016         failIfFalse(match(DOTDOTDOT), "Expected either a closing ']' or a ',' following an array element");
2017         semanticFail("The '...' operator should come before a target expression");
2018     }
2019     
2020     m_nonLHSCount = oldNonLHSCount;
2021     
2022     return context.createArray(location, elementList);
2023 }
2024
2025 template <typename LexerType>
2026 template <class TreeBuilder> TreeExpression Parser<LexerType>::parsePrimaryExpression(TreeBuilder& context)
2027 {
2028     failIfStackOverflow();
2029     switch (m_token.m_type) {
2030     case FUNCTION: {
2031         JSTokenLocation location(tokenLocation());
2032         unsigned functionKeywordStart = tokenStart();
2033         next();
2034         ParserFunctionInfo<TreeBuilder> info;
2035         info.name = &m_vm->propertyNames->nullIdentifier;
2036         failIfFalse((parseFunctionInfo(context, FunctionNoRequirements, FunctionMode, false, info)), "Cannot parse function expression");
2037         return context.createFunctionExpr(location, info, functionKeywordStart);
2038     }
2039     case OPENBRACE:
2040         if (strictMode())
2041             return parseStrictObjectLiteral(context);
2042         return parseObjectLiteral(context);
2043     case OPENBRACKET:
2044         return parseArrayLiteral(context);
2045     case OPENPAREN: {
2046         next();
2047         int oldNonLHSCount = m_nonLHSCount;
2048         TreeExpression result = parseExpression(context);
2049         m_nonLHSCount = oldNonLHSCount;
2050         handleProductionOrFail(CLOSEPAREN, ")", "end", "compound expression");
2051         return result;
2052     }
2053     case THISTOKEN: {
2054         JSTokenLocation location(tokenLocation());
2055         next();
2056         return context.thisExpr(location);
2057     }
2058     case IDENT: {
2059         JSTextPosition start = tokenStartPosition();
2060         const Identifier* ident = m_token.m_data.ident;
2061         JSTokenLocation location(tokenLocation());
2062         next();
2063         currentScope()->useVariable(ident, m_vm->propertyNames->eval == *ident);
2064         m_lastIdentifier = ident;
2065         return context.createResolve(location, ident, start);
2066     }
2067     case STRING: {
2068         const Identifier* ident = m_token.m_data.ident;
2069         JSTokenLocation location(tokenLocation());
2070         next();
2071         return context.createString(location, ident);
2072     }
2073     case NUMBER: {
2074         double d = m_token.m_data.doubleValue;
2075         JSTokenLocation location(tokenLocation());
2076         next();
2077         return context.createNumberExpr(location, d);
2078     }
2079     case NULLTOKEN: {
2080         JSTokenLocation location(tokenLocation());
2081         next();
2082         return context.createNull(location);
2083     }
2084     case TRUETOKEN: {
2085         JSTokenLocation location(tokenLocation());
2086         next();
2087         return context.createBoolean(location, true);
2088     }
2089     case FALSETOKEN: {
2090         JSTokenLocation location(tokenLocation());
2091         next();
2092         return context.createBoolean(location, false);
2093     }
2094     case DIVEQUAL:
2095     case DIVIDE: {
2096         /* regexp */
2097         const Identifier* pattern;
2098         const Identifier* flags;
2099         if (match(DIVEQUAL))
2100             failIfFalse(m_lexer->scanRegExp(pattern, flags, '='), "Invalid regular expression");
2101         else
2102             failIfFalse(m_lexer->scanRegExp(pattern, flags), "Invalid regular expression");
2103         
2104         JSTextPosition start = tokenStartPosition();
2105         JSTokenLocation location(tokenLocation());
2106         next();
2107         TreeExpression re = context.createRegExp(location, *pattern, *flags, start);
2108         if (!re) {
2109             const char* yarrErrorMsg = Yarr::checkSyntax(pattern->string());
2110             regexFail(yarrErrorMsg);
2111         }
2112         return re;
2113     }
2114     default:
2115         failDueToUnexpectedToken();
2116     }
2117 }
2118
2119 template <typename LexerType>
2120 template <class TreeBuilder> TreeArguments Parser<LexerType>::parseArguments(TreeBuilder& context, SpreadMode mode)
2121 {
2122     consumeOrFailWithFlags(OPENPAREN, TreeBuilder::DontBuildStrings, "Expected opening '(' at start of argument list");
2123     JSTokenLocation location(tokenLocation());
2124     if (match(CLOSEPAREN)) {
2125         next(TreeBuilder::DontBuildStrings);
2126         return context.createArguments();
2127     }
2128     if (match(DOTDOTDOT) && mode == AllowSpread) {
2129         JSTokenLocation spreadLocation(tokenLocation());
2130         auto start = m_token.m_startPosition;
2131         auto divot = m_token.m_endPosition;
2132         next();
2133         auto spreadExpr = parseAssignmentExpression(context);
2134         auto end = m_lastTokenEndPosition;
2135         if (!spreadExpr)
2136             failWithMessage("Cannot parse spread expression");
2137         if (!consume(CLOSEPAREN)) {
2138             if (match(COMMA))
2139                 semanticFail("Spread operator may only be applied to the last argument passed to a function");
2140             handleProductionOrFail(CLOSEPAREN, ")", "end", "argument list");
2141         }
2142         auto spread = context.createSpreadExpression(spreadLocation, spreadExpr, start, divot, end);
2143         TreeArgumentsList argList = context.createArgumentsList(location, spread);
2144         return context.createArguments(argList);
2145     }
2146     TreeExpression firstArg = parseAssignmentExpression(context);
2147     failIfFalse(firstArg, "Cannot parse function argument");
2148     
2149     TreeArgumentsList argList = context.createArgumentsList(location, firstArg);
2150     TreeArgumentsList tail = argList;
2151     while (match(COMMA)) {
2152         JSTokenLocation argumentLocation(tokenLocation());
2153         next(TreeBuilder::DontBuildStrings);
2154         TreeExpression arg = parseAssignmentExpression(context);
2155         failIfFalse(arg, "Cannot parse function argument");
2156         tail = context.createArgumentsList(argumentLocation, tail, arg);
2157     }
2158     semanticFailIfTrue(match(DOTDOTDOT), "The '...' operator should come before the target expression");
2159     handleProductionOrFail(CLOSEPAREN, ")", "end", "argument list");
2160     return context.createArguments(argList);
2161 }
2162
2163 template <typename LexerType>
2164 template <class TreeBuilder> TreeExpression Parser<LexerType>::parseMemberExpression(TreeBuilder& context)
2165 {
2166     TreeExpression base = 0;
2167     JSTextPosition expressionStart = tokenStartPosition();
2168     int newCount = 0;
2169     JSTokenLocation location;
2170     while (match(NEW)) {
2171         next();
2172         newCount++;
2173     }
2174
2175     base = parsePrimaryExpression(context);
2176     
2177     failIfFalse(base, "Cannot parse base expression");
2178     while (true) {
2179         location = tokenLocation();
2180         switch (m_token.m_type) {
2181         case OPENBRACKET: {
2182             m_nonTrivialExpressionCount++;
2183             JSTextPosition expressionEnd = lastTokenEndPosition();
2184             next();
2185             int nonLHSCount = m_nonLHSCount;
2186             int initialAssignments = m_assignmentCount;
2187             TreeExpression property = parseExpression(context);
2188             failIfFalse(property, "Cannot parse subscript expression");
2189             base = context.createBracketAccess(location, base, property, initialAssignments != m_assignmentCount, expressionStart, expressionEnd, tokenEndPosition());
2190             handleProductionOrFail(CLOSEBRACKET, "]", "end", "subscript expression");
2191             m_nonLHSCount = nonLHSCount;
2192             break;
2193         }
2194         case OPENPAREN: {
2195             m_nonTrivialExpressionCount++;
2196             int nonLHSCount = m_nonLHSCount;
2197             if (newCount) {
2198                 newCount--;
2199                 JSTextPosition expressionEnd = lastTokenEndPosition();
2200                 TreeArguments arguments = parseArguments(context, AllowSpread);
2201                 failIfFalse(arguments, "Cannot parse call arguments");
2202                 base = context.createNewExpr(location, base, arguments, expressionStart, expressionEnd, lastTokenEndPosition());
2203             } else {
2204                 JSTextPosition expressionEnd = lastTokenEndPosition();
2205                 TreeArguments arguments = parseArguments(context, AllowSpread);
2206                 failIfFalse(arguments, "Cannot parse call arguments");
2207                 base = context.makeFunctionCallNode(location, base, arguments, expressionStart, expressionEnd, lastTokenEndPosition());
2208             }
2209             m_nonLHSCount = nonLHSCount;
2210             break;
2211         }
2212         case DOT: {
2213             m_nonTrivialExpressionCount++;
2214             JSTextPosition expressionEnd = lastTokenEndPosition();
2215             nextExpectIdentifier(LexerFlagsIgnoreReservedWords | TreeBuilder::DontBuildKeywords);
2216             matchOrFail(IDENT, "Expected a property name after '.'");
2217             base = context.createDotAccess(location, base, m_token.m_data.ident, expressionStart, expressionEnd, tokenEndPosition());
2218             next();
2219             break;
2220         }
2221         default:
2222             goto endMemberExpression;
2223         }
2224     }
2225 endMemberExpression:
2226     while (newCount--)
2227         base = context.createNewExpr(location, base, expressionStart, lastTokenEndPosition());
2228     return base;
2229 }
2230
2231 static const char* operatorString(bool prefix, unsigned tok)
2232 {
2233     switch (tok) {
2234     case MINUSMINUS:
2235     case AUTOMINUSMINUS:
2236         return prefix ? "prefix-decrement" : "decrement";
2237
2238     case PLUSPLUS:
2239     case AUTOPLUSPLUS:
2240         return prefix ? "prefix-increment" : "increment";
2241
2242     case EXCLAMATION:
2243         return "logical-not";
2244
2245     case TILDE:
2246         return "bitwise-not";
2247     
2248     case TYPEOF:
2249         return "typeof";
2250     
2251     case VOIDTOKEN:
2252         return "void";
2253     
2254     case DELETETOKEN:
2255         return "delete";
2256     }
2257     RELEASE_ASSERT_NOT_REACHED();
2258     return "error";
2259 }
2260
2261 template <typename LexerType>
2262 template <class TreeBuilder> TreeExpression Parser<LexerType>::parseUnaryExpression(TreeBuilder& context)
2263 {
2264     typename TreeBuilder::UnaryExprContext unaryExprContext(context);
2265     AllowInOverride allowInOverride(this);
2266     int tokenStackDepth = 0;
2267     bool modifiesExpr = false;
2268     bool requiresLExpr = false;
2269     unsigned lastOperator = 0;
2270     while (isUnaryOp(m_token.m_type)) {
2271         if (strictMode()) {
2272             switch (m_token.m_type) {
2273             case PLUSPLUS:
2274             case MINUSMINUS:
2275             case AUTOPLUSPLUS:
2276             case AUTOMINUSMINUS:
2277                 semanticFailIfTrue(requiresLExpr, "The ", operatorString(true, lastOperator), " operator requires a reference expression");
2278                 modifiesExpr = true;
2279                 requiresLExpr = true;
2280                 break;
2281             case DELETETOKEN:
2282                 semanticFailIfTrue(requiresLExpr, "The ", operatorString(true, lastOperator), " operator requires a reference expression");
2283                 requiresLExpr = true;
2284                 break;
2285             default:
2286                 semanticFailIfTrue(requiresLExpr, "The ", operatorString(true, lastOperator), " operator requires a reference expression");
2287                 break;
2288             }
2289         }
2290         lastOperator = m_token.m_type;
2291         m_nonLHSCount++;
2292         context.appendUnaryToken(tokenStackDepth, m_token.m_type, tokenStartPosition());
2293         next();
2294         m_nonTrivialExpressionCount++;
2295     }
2296     JSTextPosition subExprStart = tokenStartPosition();
2297     ASSERT(subExprStart.offset >= subExprStart.lineStartOffset);
2298     JSTokenLocation location(tokenLocation());
2299     TreeExpression expr = parseMemberExpression(context);
2300     if (!expr) {
2301         if (lastOperator)
2302             failWithMessage("Cannot parse subexpression of ", operatorString(true, lastOperator), "operator");
2303         failWithMessage("Cannot parse member expression");
2304     }
2305     bool isEvalOrArguments = false;
2306     if (strictMode() && !m_syntaxAlreadyValidated) {
2307         if (context.isResolve(expr))
2308             isEvalOrArguments = *m_lastIdentifier == m_vm->propertyNames->eval || *m_lastIdentifier == m_vm->propertyNames->arguments;
2309     }
2310     failIfTrueIfStrict(isEvalOrArguments && modifiesExpr, "Cannot modify '", m_lastIdentifier->impl(), "' in strict mode");
2311     switch (m_token.m_type) {
2312     case PLUSPLUS:
2313         m_nonTrivialExpressionCount++;
2314         m_nonLHSCount++;
2315         expr = context.makePostfixNode(location, expr, OpPlusPlus, subExprStart, lastTokenEndPosition(), tokenEndPosition());
2316         m_assignmentCount++;
2317         failIfTrueIfStrict(isEvalOrArguments, "Cannot modify '", m_lastIdentifier->impl(), "' in strict mode");
2318         semanticFailIfTrue(requiresLExpr, "The ", operatorString(false, lastOperator), " operator requires a reference expression");
2319         lastOperator = PLUSPLUS;
2320         next();
2321         break;
2322     case MINUSMINUS:
2323         m_nonTrivialExpressionCount++;
2324         m_nonLHSCount++;
2325         expr = context.makePostfixNode(location, expr, OpMinusMinus, subExprStart, lastTokenEndPosition(), tokenEndPosition());
2326         m_assignmentCount++;
2327         failIfTrueIfStrict(isEvalOrArguments, "'", m_lastIdentifier->impl(), "' cannot be modified in strict mode");
2328         semanticFailIfTrue(requiresLExpr, "The ", operatorString(false, lastOperator), " operator requires a reference expression");
2329         lastOperator = PLUSPLUS;
2330         next();
2331         break;
2332     default:
2333         break;
2334     }
2335     
2336     JSTextPosition end = lastTokenEndPosition();
2337
2338     if (!TreeBuilder::CreatesAST && (m_syntaxAlreadyValidated || !strictMode()))
2339         return expr;
2340
2341     location = tokenLocation();
2342     location.line = m_lexer->lastLineNumber();
2343     while (tokenStackDepth) {
2344         switch (context.unaryTokenStackLastType(tokenStackDepth)) {
2345         case EXCLAMATION:
2346             expr = context.createLogicalNot(location, expr);
2347             break;
2348         case TILDE:
2349             expr = context.makeBitwiseNotNode(location, expr);
2350             break;
2351         case MINUS:
2352             expr = context.makeNegateNode(location, expr);
2353             break;
2354         case PLUS:
2355             expr = context.createUnaryPlus(location, expr);
2356             break;
2357         case PLUSPLUS:
2358         case AUTOPLUSPLUS:
2359             expr = context.makePrefixNode(location, expr, OpPlusPlus, context.unaryTokenStackLastStart(tokenStackDepth), subExprStart + 1, end);
2360             m_assignmentCount++;
2361             break;
2362         case MINUSMINUS:
2363         case AUTOMINUSMINUS:
2364             expr = context.makePrefixNode(location, expr, OpMinusMinus, context.unaryTokenStackLastStart(tokenStackDepth), subExprStart + 1, end);
2365             m_assignmentCount++;
2366             break;
2367         case TYPEOF:
2368             expr = context.makeTypeOfNode(location, expr);
2369             break;
2370         case VOIDTOKEN:
2371             expr = context.createVoid(location, expr);
2372             break;
2373         case DELETETOKEN:
2374             failIfTrueIfStrict(context.isResolve(expr), "Cannot delete unqualified property '", m_lastIdentifier->impl(), "' in strict mode");
2375             expr = context.makeDeleteNode(location, expr, context.unaryTokenStackLastStart(tokenStackDepth), end, end);
2376             break;
2377         default:
2378             // If we get here something has gone horribly horribly wrong
2379             CRASH();
2380         }
2381         subExprStart = context.unaryTokenStackLastStart(tokenStackDepth);
2382         context.unaryTokenStackRemoveLast(tokenStackDepth);
2383     }
2384     return expr;
2385 }
2386
2387
2388 template <typename LexerType> void Parser<LexerType>::printUnexpectedTokenText(WTF::PrintStream& out)
2389 {
2390     switch (m_token.m_type) {
2391     case EOFTOK:
2392         out.print("Unexpected end of script");
2393         return;
2394     case UNTERMINATED_IDENTIFIER_ESCAPE_ERRORTOK:
2395     case UNTERMINATED_IDENTIFIER_UNICODE_ESCAPE_ERRORTOK:
2396         out.print("Incomplete unicode escape in identifier: '", getToken(), "'");
2397         return;
2398     case UNTERMINATED_MULTILINE_COMMENT_ERRORTOK:
2399         out.print("Unterminated multiline comment");
2400         return;
2401     case UNTERMINATED_NUMERIC_LITERAL_ERRORTOK:
2402         out.print("Unterminated numeric literal '", getToken(), "'");
2403         return;
2404     case UNTERMINATED_STRING_LITERAL_ERRORTOK:
2405         out.print("Unterminated string literal '", getToken(), "'");
2406         return;
2407     case INVALID_IDENTIFIER_ESCAPE_ERRORTOK:
2408         out.print("Invalid escape in identifier: '", getToken(), "'");
2409         return;
2410     case INVALID_IDENTIFIER_UNICODE_ESCAPE_ERRORTOK:
2411         out.print("Invalid unicode escape in identifier: '", getToken(), "'");
2412         return;
2413     case INVALID_NUMERIC_LITERAL_ERRORTOK:
2414         out.print("Invalid numeric literal: '", getToken(), "'");
2415         return;
2416     case INVALID_OCTAL_NUMBER_ERRORTOK:
2417         out.print("Invalid use of octal: '", getToken(), "'");
2418         return;
2419     case INVALID_STRING_LITERAL_ERRORTOK:
2420         out.print("Invalid string literal: '", getToken(), "'");
2421         return;
2422     case ERRORTOK:
2423         out.print("Unrecognized token '", getToken(), "'");
2424         return;
2425     case STRING:
2426         out.print("Unexpected string literal ", getToken());
2427         return;
2428     case NUMBER:
2429         out.print("Unexpected number '", getToken(), "'");
2430         return;
2431     
2432     case RESERVED_IF_STRICT:
2433         out.print("Unexpected use of reserved word '", getToken(), "' in strict mode");
2434         return;
2435         
2436     case RESERVED:
2437         out.print("Unexpected use of reserved word '", getToken(), "'");
2438         return;
2439
2440     case INVALID_PRIVATE_NAME_ERRORTOK:
2441         out.print("Invalid private name '", getToken(), "'");
2442         return;
2443             
2444     case IDENT:
2445         out.print("Unexpected identifier '", getToken(), "'");
2446         return;
2447
2448     default:
2449         break;
2450     }
2451
2452     if (m_token.m_type & KeywordTokenFlag) {
2453         out.print("Unexpected keyword '", getToken(), "'");
2454         return;
2455     }
2456     
2457     out.print("Unexpected token '", getToken(), "'");
2458 }
2459
2460 // Instantiate the two flavors of Parser we need instead of putting most of this file in Parser.h
2461 template class Parser<Lexer<LChar>>;
2462 template class Parser<Lexer<UChar>>;
2463     
2464 } // namespace JSC